Microsoft представила стратегию борьбы с дипфейками и систему проверки подлинности контента

Microsoft опубликовала подробный план действий для индустрии, направленный на борьбу с дипфейками и фальсифицированным контентом. Компания предложила комплексную систему верификации, которая помогает отличать реальные фото, видео и тексты от материалов, созданных с помощью искусственного интеллекта.

В основе стратегии лежит сочетание трёх технологий: цифровые водяные знаки, метаданные и уникальные математические «отпечатки» файлов. Такой подход позволяет отслеживать происхождение контента и определять, подвергался ли он изменениям.

Специалисты компании протестировали 60 различных комбинаций этих методов, моделируя ситуации, при которых метаданные могут быть удалены, а изображения — частично отредактированы. Исследование показало, что только комплексный подход обеспечивает надёжную маркировку контента. Отдельные инструменты, по мнению экспертов, могут вводить пользователей в заблуждение.

Важно отметить, что технологии не определяют правдивость информации — они лишь подтверждают происхождение и факт возможного изменения файла.

Инициатива становится особенно актуальной на фоне новых законодательных требований, включая AI Transparency Act в Калифорнии. При этом компания пока не гарантирует обязательное внедрение своих рекомендаций во всех сервисах, таких как Copilot, Azure и LinkedIn.