En manos de ciberdelincuentes o de un estado autoritario, la IA, como ChatGPT, puede convertirse en una amenaza real para el anonimato en línea y nuestra privacidad.

¿Será este el fin del anonimato en línea gracias a la IA, que actúa como un superdetective privado capaz de desenmascarar incluso a los usuarios más reservados de internet? La idea puede parecer descabellada, pero el trabajo de estos dos investigadores parece demostrar que es una realidad, no una fantasía. Un estudio publicado por The Guardian revela que los ciberdelincuentes utilizan cada vez más la inteligencia artificial para identificar con mayor facilidad las cuentas anónimas en redes sociales. Gracias a los grandes modelos de lenguaje (como ChatGPT, Claude, Gemini, etc.), es posible vincular una cuenta a una persona real, especialmente basándose en la información que comparte. Esto permite ataques sofisticados y rentables, explican Simon Lermen y Daniel Paleka, los dos investigadores responsables del estudio, quienes exigen una reconsideración fundamental de lo que consideramos información privada en línea.

IA diseñada para rastrear la web y cruzar datos

Para realizar este descubrimiento, primero integraron dos cuentas anónimas en una IA, haciéndola recuperar la mayor cantidad de información posible. Una de las dos cuentas (@anon_user42) habló de sus dificultades escolares y de su costumbre de pasear a su perro Biscuit en un parque llamado "Dolores". Gracias a esta información, la IA pudo escanear la web para proporcionar la identidad de la persona responsable de la cuenta con un alto grado de fiabilidad. Los investigadores creen que este método puede ser fácilmente explotado por hackers, pero también por gobiernos que desean silenciar a los disidentes, quienes suelen hacer campaña anónimamente en redes sociales. Los modelos de lenguaje de gran tamaño tienen una capacidad analítica rápida y altamente eficiente —quizás demasiado eficiente—, lo que lleva a referencias cruzadas de información que pueden comprometer el anonimato y causar graves problemas de seguridad. De este modo, un hacker podría suplantar fácilmente a otra persona y atraerla a una operación de phishing utilizando los datos recopilados por la IA. Ya no se necesitan procesos costosos para lograr este objetivo: una IA y una conexión a internet son todo lo que se necesita. Si bien el estudio demuestra que la inteligencia artificial es eficaz, Peter Bentley, profesor de ciencias de la información en la UCL, discrepa. Entrevistado por medios británicos, denuncia una tendencia que podría llevar a que se acuse a personas de cosas que no hicieron. También existe el riesgo de que los grandes modelos lingüísticos dependan de datos públicos mucho más allá de las redes sociales. Se podrían utilizar informes estadísticos, registros hospitalarios y registros de admisiones.

El estudio muestra principalmente que en línea, y especialmente en redes sociales, la forma en que un usuario interactúa puede fácilmente llevar a los observadores a su verdadera identidad. Por lo tanto, es esencial ser siempre cuidadoso con lo que se hace en línea, a la vez que se toman múltiples medidas para mantener el anonimato completo, por ejemplo, utilizando una dirección de correo electrónico o un número de teléfono separado del resto de la vida personal. Los dos investigadores instan a las plataformas de redes sociales a restringir el acceso a los datos a los que la IA puede acceder, en particular para evitar el "scraping", una función ampliamente utilizada por los modelos lingüísticos para recopilar la mayor cantidad de información posible para el entrenamiento.