Grammarly был вынужден удалить функцию искусственного интеллекта после недовольства писателей и исследователей.

В течение нескольких месяцев ИИ-помощники добавляли множество функций, призванных улучшить качество письма, будь то исправление грамматики, предложение вариантов перефразирования или выдвижение идей. Но эти нововведения иногда вызывают бурную реакцию… Именно это и произошло с Grammarly, одним из самых популярных в мире помощников для письма. Компания недавно была вынуждена отключить функцию искусственного интеллекта под названием «Экспертная проверка» после волны критики со стороны писателей, журналистов и исследователей, чьи имена использовались инструментом без разрешения.

Искусственный интеллект, имитирующий советы реальных людей

В частности, функция «Экспертная проверка» была введена, чтобы помочь пользователям улучшить свои навыки письма. Инструмент предлагал комментарии и предложения по написанию, представленные как вдохновленные экспертами в соответствующей области. в этой области. Этими «экспертами» могли быть известные авторы, ученые или журналисты. В некоторых случаях ИИ даже представлял комментарии, якобы от имени таких личностей, как авторы бестселлеров, ученые или специалисты в области технологий. Проблема, быстро выявленная пользователями, заключалась в том, что эти люди не давали своего согласия на появление в инструменте. Таким образом, имена писателей или исследователей, иногда умерших, были связаны с комментариями, автоматически сгенерированными моделью ИИ.

Скандал, который привел к быстрой блокировке

Как сообщает Wired, в ответ на критику реакция была быстрой. Некоторые авторы осудили злоупотребление их личностями, в то время как журналисты и ученые посчитали, что инструмент может создать иллюзию одобрения или сотрудничества, где Таких случаев не существовало. Американская журналистка Джулия Ангвин даже подала коллективный иск против компании, утверждая, что использование реальных имен без разрешения может представлять собой кражу личных данных. Тем временем Шишир Мехротра, генеральный директор Superhuman, компании, которая теперь владеет Grammarly, объявил о приостановке работы этой функции. В сообщении, опубликованном в LinkedIn, он признает, что критика экспертов была обоснованной и что компании необходимо пересмотреть свой подход. Теперь компания объясняет, что хочет переосмыслить эту функцию, чтобы позволить экспертам контролировать то, как может быть представлено их имя или работа, или даже полностью отказаться от такого использования.

Новый эпизод в дебатах вокруг генеративного ИИ

Эта полемика иллюстрирует растущую напряженность вокруг моделей генеративного ИИ, где многие инструменты полагаются на анализ огромных массивов данных из интернета, что регулярно поднимает вопросы, связанные с согласием, авторским правом или использованием личностей публичных деятелей.

В случае с Grammarly ситуация подчеркивает сложность предоставления функций, вдохновленных экспертами, без создания впечатления, что они действительно участвуют в работе сервиса.

Приостановка «Экспертной проверки» может, таким образом, стать поворотным моментом в том, как разработчики инструментов ИИ проектируют свои функции, настолько, что для компаний в этом секторе вопрос представительства и согласия создателей становится все более деликатной темой…