Европейский союз хочет запретить инструменты искусственного интеллекта, которые раздеваются без согласия.

Хотя искусственный интеллект становится все более распространенным во многих приложениях, его потенциальные злоупотребления продолжают вызывать беспокойство у европейских институтов.

Среди них создание сексуального контента без согласия на основе реальных изображений вызывает растущую политическую мобилизацию. Действительно, в Брюсселе депутаты Европарламента теперь хотят пойти еще дальше, более строго регулируя эти практики…

Целенаправленный запрет на инструменты «обнажения»

Как сообщается в пресс-релизе, Европейский парламент движется к запрету на технологии, способные создавать дипфейки сексуального характера. В частности, комитеты по гражданским свободам и внутреннему рынку приняли поправку, направленную против так называемых систем «обнажения». На практике эти инструменты используют искусственный интеллект для создания или манипулирования интимными изображениями реальных, идентифицируемых людей без их согласия. По мнению нескольких депутатов Европарламента, эта практика уже причинила значительный вред. Депутат Европарламента Майкл Макнамара выступает за твердую позицию, осуждая приложения, которые «приносят много страданий в пользу немногих». Ким ван Спаррентак, со своей стороны, видит в этом значительный шаг вперед, особенно для защиты женщин и несовершеннолетних. Текст еще должен быть представлен всем депутатам Европарламента для голосования на пленарном заседании, запланированном на 26 марта. В случае одобрения потребуются переговоры с государствами-членами для выработки окончательной и применимой версии.

Эффект, вызванный делом Grok

Это ужесточение регулирования происходит в контексте нескольких недавних скандалов, один из самых значительных из которых касается Grok, доступного в социальной сети Илона Маска.

Инструмент временно позволял пользователям создавать изображения сексуального характера из реальных фотографий, включая фотографии женщин и детей. Эта функция быстро вызвала сильную реакцию в Европе, что побудило власти начать расследование. Под давлением xAI впоследствии ограничила доступ к определенным функциям и заверила, что заблокирует создание изображений сексуального характера, но только в юрисдикциях, где такой контент является незаконным. Первый шаг во Франции и Испании? Параллельно с этим делом государства-члены Европейского союза уже одобрили франко-испанское предложение в том же ключе. Данное предложение направлено на запрет сервисов искусственного интеллекта, способных создавать изображения сексуального характера без согласия, а также детскую порнографию. Такое совпадение мнений Парламента и государств-членов демонстрирует общее стремление к более строгому регулированию деликатных способов использования ИИ в условиях быстрого развития технологических возможностей.