Grammarly foi forçado a remover recurso de IA após críticas de escritores e pesquisadores.

Há vários meses, os assistentes de IA vêm adicionando inúmeras funcionalidades projetadas para aprimorar a escrita, seja para corrigir a gramática, sugerir reformulações ou propor ideias. Mas essas inovações às vezes podem provocar reações fortes…

De fato, foi exatamente isso que aconteceu com o Grammarly, um dos assistentes de escrita mais usados no mundo. Recentemente, a empresa teve que desativar um recurso de IA chamado "Revisão de Especialistas", após uma onda de críticas de escritores, jornalistas e pesquisadores cujos nomes estavam sendo usados pela ferramenta sem permissão.

Uma IA que imitava os conselhos de pessoas reais

O recurso não está mais acessível – Fonte: Grammarly

Especificamente, o recurso "Revisão de Especialistas" havia sido introduzido para ajudar os usuários a aprimorarem sua escrita. A ferramenta oferecia comentários e sugestões de escrita apresentados como inspirados por especialistas na área relevante. Os "especialistas" podiam ser autores famosos, cientistas ou jornalistas. Em alguns casos, a IA até apresentava comentários supostamente de figuras como romancistas de sucesso, acadêmicos ou especialistas em tecnologia. O problema, rapidamente identificado pelos usuários, era que esses indivíduos não haviam dado seu consentimento para aparecer na ferramenta. Os nomes de escritores ou pesquisadores, às vezes falecidos, eram, portanto, associados a comentários gerados automaticamente por um modelo de IA.

Uma controvérsia que levou a uma rápida suspensão

Como relatado pela Wired, diante das críticas, a reação foi rápida. Alguns autores denunciaram o uso indevido de suas identidades, enquanto jornalistas e acadêmicos sentiram que a ferramenta poderia criar a ilusão de endosso ou colaboração onde não existiam. A jornalista americana Julia Angwin chegou a entrar com um processo Uma ação coletiva foi movida contra a empresa, argumentando que o uso de nomes reais sem autorização poderia constituir roubo de identidade. Enquanto isso, Shishir Mehrotra, CEO da Superhuman, empresa que agora detém a Grammarly, anunciou a suspensão do recurso. Em uma mensagem publicada no LinkedIn, ele reconhece que as críticas feitas por especialistas eram legítimas e que a empresa precisava revisar sua abordagem.

A empresa agora explica que deseja repensar o recurso para permitir que especialistas controlem como seus nomes ou trabalhos podem ser representados, ou até mesmo recusem esse uso completamente.

Um novo episódio no debate em torno da geração de texto Esta controvérsia ilustra as crescentes tensões em torno dos modelos de IA generativa, onde muitas ferramentas dependem da análise de vastos conjuntos de dados da web, o que regularmente levanta questões relacionadas ao consentimento, direitos autorais ou ao uso da identidade de figuras públicas.

No caso do Grammarly, a situação destaca a dificuldade de oferecer recursos inspirados por especialistas humanos sem dar a impressão de que eles estão de fato participando do serviço.

A suspensão da "Revisão por Especialistas" pode, portanto, marcar um ponto de virada na forma como os desenvolvedores de ferramentas de IA projetam seus recursos, a ponto de, para as empresas do setor, a questão da representação e do consentimento dos criadores estar se tornando um assunto cada vez mais sensível…