Grammarly se vio obligado a eliminar una función de inteligencia artificial tras el enojo de escritores e investigadores.

Desde hace varios meses, los asistentes de IA han ido añadiendo numerosas funciones diseñadas para mejorar la escritura, ya sea para corregir la gramática, sugerir reformulaciones o proponer ideas. Pero estas innovaciones a veces pueden provocar reacciones fuertes…

De hecho, eso es precisamente lo que le acaba de pasar a Grammarly, uno de los asistentes de escritura más utilizados del mundo. Recientemente, la empresa tuvo que desactivar una función de IA llamada "Revisión de Expertos", tras una ola de críticas por parte de escritores, periodistas e investigadores cuyos nombres estaban siendo utilizados por la herramienta sin permiso.

Una IA que imitaba los consejos de personas reales

La función ya no está disponible – Fuente: Grammarly

En concreto, la función "Revisión de Expertos" se había introducido para ayudar a los usuarios a mejorar su escritura. La herramienta ofrecía comentarios y sugerencias de escritura inspirados por expertos en el campo correspondiente. Estos "expertos" podían ser autores, científicos o periodistas famosos. En algunos casos, la IA incluso presentó comentarios supuestamente de figuras como novelistas superventas, académicos o especialistas en tecnología. El problema, rápidamente identificado por los usuarios, fue que estas personas no habían dado su consentimiento para aparecer en la herramienta. Los nombres de escritores o investigadores, a veces fallecidos, se asociaron así con comentarios generados automáticamente por un modelo de IA.

Una controversia que provocó una rápida suspensión

Según informó Wired, ante las críticas, la reacción fue rápida. Algunos autores denunciaron el uso indebido de sus identidades, mientras que periodistas y académicos consideraron que la herramienta podía crear la ilusión de respaldo o colaboración donde no existía. La periodista estadounidense Julia Angwin incluso presentó una demanda colectiva contra la empresa, argumentando que usar nombres reales sin autorización podría constituir robo de identidad. Mientras tanto, Shishir Mehrotra, director ejecutivo de Superhuman, la empresa propietaria de Grammarly, anunció la suspensión de la función. En un mensaje publicado en LinkedIn, reconoce que las críticas de los expertos eran legítimas y que la empresa necesitaba revisar su enfoque. La empresa ahora explica que quiere replantear la función para permitir que los expertos controlen cómo se puede representar su nombre o trabajo, o incluso rechazar este uso por completo. Un nuevo episodio en el debate sobre la generación IA

Esta controversia ilustra las crecientes tensiones en torno a los modelos de IA generativa, donde muchas herramientas se basan en el análisis de vastos conjuntos de datos de la web, lo que regularmente plantea preguntas relacionadas con el consentimiento, los derechos de autor o el uso de la identidad de figuras públicas.

En el caso de Grammarly, la situación pone de relieve la dificultad de ofrecer funciones inspiradas por expertos humanos sin dar la impresión de que realmente participan en el servicio.

La suspensión de la "Revisión de Expertos" podría marcar un punto de inflexión en la forma en que los desarrolladores de herramientas de IA diseñan sus funciones, tanto que para las empresas del sector, la cuestión de la representación y el consentimiento de los creadores se está convirtiendo en un tema cada vez más delicado…