De Europese Unie wil AI-tools verbieden die zonder toestemming ontkleden.

Hoewel kunstmatige intelligentie steeds vaker wordt toegepast in diverse sectoren, blijven de mogelijke misbruiken ervan Europese instellingen zorgen baren. Het creëren van seksuele content zonder toestemming op basis van echte beelden leidt tot een groeiende politieke mobilisatie. In Brussel willen Europarlementariërs zelfs nog een stap verder gaan door deze praktijken strenger te reguleren. Een gericht verbod op tools voor het genereren van 'naaktbeelden'. Zoals gemeld in een persbericht, werkt het Europees Parlement aan een verbod op technologieën die in staat zijn om seksuele deepfakes te creëren. Meer specifiek hebben de commissies Burgerlijke Vrijheden en Interne Markt een amendement aangenomen dat zich richt op zogenaamde 'naaktmakingssystemen'. In de praktijk maken deze systemen gebruik van kunstmatige intelligentie om intieme beelden van echte, identificeerbare personen te creëren of te manipuleren zonder hun toestemming. Deze praktijk heeft volgens verschillende Europarlementariërs al aanzienlijke schade aangericht. Europarlementariër Michael McNamara pleit voor een krachtig standpunt en veroordeelt toepassingen die "veel leed veroorzaken ten behoeve van enkelen". Kim van Sparrentak ziet het amendement daarentegen als een belangrijke stap voorwaarts, met name voor de bescherming van vrouwen en minderjarigen. De tekst moet nog worden voorgelegd aan alle Europarlementariërs voor een stemming tijdens de plenaire vergadering die gepland staat voor 26 maart. Indien deze wordt goedgekeurd, zullen onderhandelingen met de lidstaten nodig zijn om tot een definitieve en toepasbare versie te komen.

Het triggereffect van de Grok-affaire

Deze aanscherping van de regelgeving vindt plaats in een context die wordt gekenmerkt door verschillende recente controverses, waarvan Grok, beschikbaar op het sociale netwerk van Elon Musk, een van de meest significante is.

De tool stelde gebruikers tijdelijk in staat om seksueel getinte afbeeldingen te genereren van echte foto's, waaronder foto's van vrouwen en kinderen. Deze functie leidde al snel tot een sterke reactie in Europa, wat de autoriteiten ertoe aanzette een onderzoek te starten. Onder druk heeft xAI vervolgens de toegang tot bepaalde functies beperkt en verzekerd dat het de generatie van seksueel expliciete afbeeldingen zal blokkeren, maar alleen in rechtsgebieden waar dergelijke inhoud illegaal is. Een eerste stap in Frankrijk en Spanje? Parallel aan deze zaak hebben de lidstaten van de Europese Unie al een Frans-Spaans voorstel in dezelfde lijn goedgekeurd. Dit voorstel beoogt AI-diensten te verbieden die in staat zijn om niet-consensuele seksuele beelden en kinderpornografie te produceren. Deze overeenstemming tussen het Parlement en de lidstaten illustreert een gedeelde wens om gevoelige toepassingen van AI strenger te reguleren, in een tijd waarin de technologische mogelijkheden zich snel ontwikkelen.