Europeiska unionen vill förbjuda AI-verktyg som avkläds utan samtycke

Medan artificiell intelligens blir allt vanligare i många tillämpningar, fortsätter dess potentiella missbruk att oroa europeiska institutioner.

Bland dessa genererar skapandet av sexuellt innehåll utan samtyckande från verkliga bilder en växande politisk mobilisering. I Bryssel vill ledamöterna nu ta saker ett steg längre genom att strängare reglera dessa metoder…

Ett riktat förbud mot "nudationsverktyg"

Som rapporterats i ett pressmeddelande, rör sig Europaparlamentet mot ett förbud mot teknik som kan generera sexuella deepfakes. Mer specifikt antog utskottet för medborgerliga fri- och rättigheter och den inre marknaden ett ändringsförslag som riktar sig mot så kallade "nudationssystem". I praktiken använder dessa verktyg artificiell intelligens för att skapa eller manipulera intima bilder av verkliga, identifierbara personer utan deras samtycke. Denna praxis har, enligt flera ledamöter, redan orsakat betydande skada. Ledamoten Michael McNamara förespråkar en fast hållning och fördömer applikationer som genererar "ett stort lidande till förmån för ett fåtal". Kim van Sparrentak ser det för sin del som ett betydande steg framåt, särskilt för att skydda kvinnor och minderåriga. Texten måste fortfarande lämnas till alla ledamöter i Europaparlamentet för omröstning i plenarsessionen som är planerad till den 26 mars. Om detta godkänns kommer förhandlingar med medlemsstaterna att krävas för att komma fram till en slutgiltig och tillämplig version.

Den utlösande effekten av Grok-affären

Denna åtstramning av reglerna kommer i ett sammanhang som präglats av flera kontroverser på senare tid, *varav* en av de viktigaste som rör Grok, tillgänglig på Elon Musks sociala nätverk.

Verktyget hade tillfälligt gjort det möjligt för användare att generera sexualiserade bilder från riktiga foton, *inklusive bilder på kvinnor och barn*. Denna funktion utlöste snabbt en stark reaktion i Europa, vilket fick myndigheterna att inleda en utredning. Under press begränsade xAI därefter åtkomsten till vissa funktioner och försäkrade att de skulle blockera genereringen av sexuellt explicita bilder, men endast i jurisdiktioner där sådant innehåll är olagligt. Ett första steg i Frankrike och Spanien? Parallellt med detta fall har EU:s medlemsstater redan godkänt ett fransk-spanskt förslag i samma anda. Detta förslag syftar till att förbjuda AI-tjänster som kan producera sexuella bilder utan samtycke, såväl som barnpornografi. Denna konvergens mellan parlamentet och medlemsstaterna illustrerar en gemensam önskan att strängare reglera känslig användning av AI, i en tid då den tekniska kapaciteten utvecklas snabbt.