La Unión Europea quiere prohibir las herramientas de IA que desvisten sin consentimiento.

Si bien la inteligencia artificial se está volviendo cada vez más frecuente en muchas aplicaciones, sus posibles abusos siguen preocupando a las instituciones europeas.

Entre estos, la creación de contenido sexual no consentido a partir de imágenes reales está generando una creciente movilización política. De hecho, en Bruselas, los eurodiputados ahora quieren ir un paso más allá regulando más estrictamente estas prácticas…

Una prohibición selectiva de las herramientas de “desnudez”

Como se informó en un comunicado de prensa, el Parlamento Europeo está avanzando hacia una prohibición de las tecnologías capaces de generar deepfakes sexuales. Más concretamente, las comisiones de Libertades Civiles y Mercado Interior aprobaron una enmienda dirigida a los denominados sistemas de "desnudez". En la práctica, estas herramientas utilizan inteligencia artificial para crear o manipular imágenes íntimas de personas reales e identificables sin su consentimiento. Esta práctica, según varios eurodiputados, ya ha causado daños significativos. El eurodiputado Michael McNamara aboga por una postura firme, denunciando las aplicaciones que generan "un gran sufrimiento en beneficio de unos pocos". Kim van Sparrentak, por su parte, lo considera un importante avance, especialmente para la protección de las mujeres y los menores. El texto aún debe ser presentado a todos los eurodiputados para su votación en la sesión plenaria programada para el 26 de marzo. Si se aprueba, serán necesarias negociaciones con los Estados miembros para llegar a una versión final y aplicable.

El efecto desencadenante del caso Grok

Este endurecimiento de la normativa se produce en un contexto marcado por varias controversias recientes, una de las más significativas relacionada con Grok, disponible en la red social de Elon Musk.

La herramienta había permitido temporalmente a los usuarios generar imágenes sexualizadas a partir de fotos reales, incluidas las de mujeres y niños. Esta función provocó rápidamente una fuerte reacción en Europa, lo que llevó a las autoridades a abrir una investigación. Bajo presión, xAI posteriormente restringió el acceso a ciertas funciones y aseguró que bloquearía la generación de imágenes sexualmente explícitas, pero solo en las jurisdicciones donde dicho contenido es ilegal. ¿Un primer paso en Francia y España? Paralelamente a este caso, los Estados miembros de la Unión Europea ya han aprobado una propuesta franco-española en la misma línea. Esta propuesta pretende prohibir los servicios de IA capaces de producir imágenes sexuales no consensuales, así como pornografía infantil. Esta convergencia entre el Parlamento y los Estados miembros ilustra un deseo compartido de regular con mayor rigor los usos sensibles de la IA, en un momento en que las capacidades tecnológicas evolucionan rápidamente.