A União Europeia quer proibir ferramentas de IA que se despem sem consentimento.

Embora a inteligência artificial esteja se tornando cada vez mais comum em muitas aplicações, seus potenciais abusos continuam a preocupar as instituições europeias.

Entre eles, a criação de conteúdo sexual não consensual a partir de imagens reais está gerando crescente mobilização política. De fato, em Bruxelas, os eurodeputados agora querem ir além regulamentando essas práticas de forma mais rigorosa…

Uma proibição direcionada a ferramentas de “nudez”

Conforme relatado em um comunicado de imprensa, o Parlamento Europeu está caminhando para uma proibição de tecnologias capazes de gerar deepfakes sexuais. Mais especificamente, as comissões de Liberdades Cívicas e do Mercado Interno aprovaram uma emenda que visa os chamados sistemas de "nudamento". Na prática, essas ferramentas utilizam inteligência artificial para criar ou manipular imagens íntimas de pessoas reais e identificáveis sem o seu consentimento. Essa prática, segundo vários eurodeputados, já causou danos significativos. O eurodeputado Michael McNamara defende uma posição firme, denunciando aplicações que geram "muito sofrimento em benefício de poucos". Kim van Sparrentak, por sua vez, considera a medida um passo importante, especialmente para a proteção de mulheres e menores. O texto ainda precisa ser submetido a todos os eurodeputados para votação em sessão plenária agendada para 26 de março. Se aprovado, serão necessárias negociações com os Estados-Membros para chegar a uma versão final e aplicável.

O efeito desencadeador do caso Grok

Este aperto regulamentar surge num contexto marcado por diversas controvérsias recentes, uma das mais significativas diz respeito ao Grok, disponível na rede social de Elon Musk.

A ferramenta permitiu temporariamente aos utilizadores gerar imagens sexualizadas a partir de fotografias reais, incluindo de mulheres e crianças. Esta funcionalidade rapidamente gerou uma forte reação na Europa, levando as autoridades a abrir uma investigação. Sob pressão, a xAI restringiu posteriormente o acesso a certas funcionalidades e garantiu que bloquearia a geração de imagens sexualmente explícitas, mas apenas em jurisdições onde esse conteúdo é ilegal. Um primeiro passo em França e Espanha? Paralelamente a este caso, os Estados-Membros da União Europeia já aprovaram uma proposta franco-espanhola nos mesmos moldes. Esta proposta visa proibir serviços de IA capazes de produzir imagens sexuais não consensuais, bem como pornografia infantil. Esta convergência entre o Parlamento e os Estados-Membros ilustra um desejo partilhado de regular mais rigorosamente as utilizações sensíveis da IA, numa altura em que as capacidades tecnológicas estão a evoluir rapidamente.