Компания Meta разрабатывает инструмент для обнаружения контента, созданного с помощью ИИ.

По мере того, как контент, созданный с помощью ИИ, заполоняет интернет, достигая, по последним данным, более 50%, технологические гиганты начинают адаптироваться.

Внеся значительный вклад в демократизацию этих видов использования, некоторые игроки теперь стремятся лучше регулировать их.

Именно в этом контексте Meta, как сообщается, работает над пока еще незаметной функцией, которая, однако, раскрывает текущие проблемы, связанные с генеративным ИИ…

Детектор ИИ, интегрированный непосредственно в Meta AI

По сообщениям некоторых пользователей, в интерфейсе Meta AI был обнаружен инструмент под названием «Детектор ИИ». Эта функция, находящаяся в стадии разработки, позволит пользователям анализировать контент, чтобы определить, был ли он сгенерирован искусственным интеллектом. Первые признаки были обнаружены TestingCatalog путем активации внутренних функций в коде приложения, что является распространенной практикой для обнаружения неанонсированных инструментов. В настоящее время детектор не активен, и каждый клик по этой опции ведет на неактивную страницу, что указывает на то, что проект все еще находится на стадии тестирования. Однако, судя по имеющейся информации, этот инструмент может первоначально сосредоточиться на анализе текста, прежде чем расшириться на другие форматы, такие как изображения, аудио или видео. Развитие событий, соответствующее масштабным инвестициям Meta в создание мультимедийного контента…

Ответ на распространение синтетического контента?

Это развитие происходит в особом контексте, когда в последние месяцы Meta значительно расширила возможности генеративного ИИ на своих платформах, например, недавно преобразовав фотографии в истории. К сожалению, это привело к взрывному росту того, что некоторые теперь называют «ИИ-хламом» — массово производимого, часто низкокачественного синтетического контента.

Действительно, группа даже экспериментирует с новыми форматами, такими как ленты, где контент, сгенерированный ИИ, занимает центральное место. Такой подход коренным образом меняет пользовательский опыт, но также поднимает вопросы о надежности и читаемости распространяемой информации.

В этой ситуации разработка детектора ИИ выглядит как форма защитной реакции.

Но это поднимает важный вопрос: сможет ли этот инструмент идентифицировать контент из любой модели или только контент, созданный экосистемой Meta? На практике этот выбор напрямую повлияет на его охват. Кроме того, хотя на данном этапе официального объявления не было, эта инициатива иллюстрирует фундаментальную тенденцию: после ускорения производства контента с помощью ИИ платформы теперь стремятся лучше идентифицировать его и, возможно, вернуть себе контроль над ним.