L'Union européenne souhaite interdire les outils d'IA qui se déshabillent sans consentement.

Alors que l'intelligence artificielle se généralise dans de nombreuses applications, ses abus potentiels continuent de préoccuper les institutions européennes.

Parmi ceux-ci, la création de contenus sexuels non consensuels à partir d'images réelles suscite une mobilisation politique croissante. À Bruxelles, les députés européens souhaitent désormais aller plus loin en réglementant plus strictement ces pratiques…

Interdiction ciblée des outils de «nudation»

Comme indiqué dans un communiqué de presse, le Parlement européen s'oriente vers une interdiction des technologies capables de générer des deepfakes à caractère sexuel. Plus précisément, les commissions des libertés civiles et du marché intérieur ont adopté un amendement visant les systèmes dits de « nudité ». Concrètement, ces outils utilisent l'intelligence artificielle pour créer ou manipuler des images intimes de personnes réelles et identifiables, sans leur consentement. Selon plusieurs eurodéputés, cette pratique a déjà causé des préjudices considérables. L'eurodéputé Michael McNamara prône une position ferme, dénonçant les applications qui engendrent « d'immenses souffrances au profit de quelques-uns ». Kim van Sparrentak, quant à elle, y voit une avancée significative, notamment pour la protection des femmes et des mineurs. Le texte doit encore être soumis à l'ensemble des députés européens pour un vote en séance plénière prévue le 26 mars. S'il est approuvé, des négociations avec les États membres seront nécessaires pour parvenir à une version finale et applicable.

L'effet déclencheur de l'affaire Grok

Ce durcissement de la réglementation intervient dans un contexte marqué par plusieurs controverses récentes, dont l'une des plus importantes concerne Grok, disponible sur le réseau social d'Elon Musk.

Cet outil permettait temporairement aux utilisateurs de générer des images sexualisées à partir de photos réelles, y compris celles de femmes et d'enfants. Cette fonctionnalité a rapidement suscité une vive réaction en Europe, incitant les autorités à ouvrir une enquête. Sous la pression, xAI a par la suite restreint l'accès à certaines fonctionnalités et assuré qu'elle bloquerait la génération d'images à caractère sexuel explicite, mais uniquement dans les juridictions où ce type de contenu est illégal. Un premier pas en France et en Espagne? Parallèlement, les États membres de l'Union européenne ont déjà approuvé une proposition franco-espagnole allant dans le même sens. Cette proposition vise à interdire les services d'IA capables de produire des images à caractère sexuel non consensuelles, ainsi que de la pornographie infantile. Cette convergence entre le Parlement et les États membres illustre une volonté commune de réglementer plus strictement les usages sensibles de l'IA, à l'heure où les capacités technologiques évoluent rapidement.