Die Europäische Union will KI-Tools verbieten, die sich ohne Einwilligung entkleiden.

Während künstliche Intelligenz in vielen Anwendungsbereichen immer häufiger zum Einsatz kommt, bereiten ihre potenziellen Missbräuche den europäischen Institutionen weiterhin Sorgen. Die Erstellung nicht einvernehmlicher sexueller Inhalte aus realen Bildern führt zu wachsender politischer Mobilisierung. In Brüssel wollen die Abgeordneten des Europäischen Parlaments nun noch einen Schritt weiter gehen und diese Praktiken strenger regulieren. Ein gezieltes Verbot von „Nudation“-Tools: Wie in einer Pressemitteilung berichtet wird, strebt das Europäische Parlament ein Verbot von Technologien an, die sexuelle Deepfakes erzeugen können. Genauer gesagt, verabschiedeten die Ausschüsse für bürgerliche Freiheiten und Binnenmarkt einen Änderungsantrag, der sogenannte „Nudationssysteme“ ins Visier nimmt. Diese Systeme nutzen künstliche Intelligenz, um ohne deren Einwilligung intime Bilder realer, identifizierbarer Personen zu erstellen oder zu manipulieren. Laut mehreren Europaabgeordneten hat diese Praxis bereits erheblichen Schaden angerichtet. Der Europaabgeordnete Michael McNamara plädiert für ein hartes Vorgehen und verurteilt Anwendungen, die „viel Leid zum Vorteil einiger Weniger“ verursachen. Kim van Sparrentak hingegen sieht darin einen wichtigen Fortschritt, insbesondere zum Schutz von Frauen und Minderjährigen. Der Text muss noch allen Abgeordneten des Europäischen Parlaments zur Abstimmung in der für den 26. März anberaumten Plenarsitzung vorgelegt werden. Bei Zustimmung sind anschließend Verhandlungen mit den Mitgliedstaaten erforderlich, um eine endgültige und anwendbare Fassung zu erarbeiten.

Auslösende Wirkung des Grok-Skandals

Diese Verschärfung der Regulierung erfolgt vor dem Hintergrund mehrerer aktueller Kontroversen, eine der bedeutendsten betrifft Grok, das auf Elon Musks sozialem Netzwerk verfügbar ist.

Das Tool hatte es Nutzern vorübergehend ermöglicht, sexualisierte Bilder aus echten Fotos zu generieren, darunter auch Fotos von Frauen und Kindern. Diese Funktion löste in Europa schnell heftige Reaktionen aus und veranlasste die Behörden zu Ermittlungen. Unter Druck schränkte xAI daraufhin den Zugriff auf bestimmte Funktionen ein und versicherte, die Generierung sexuell expliziter Bilder zu blockieren, jedoch nur in Ländern, in denen solche Inhalte illegal sind. Ein erster Schritt in Frankreich und Spanien? Parallel zu diesem Fall haben die Mitgliedstaaten der Europäischen Union bereits einen französisch-spanischen Vorschlag in ähnlicher Richtung verabschiedet. Dieser Vorschlag zielt darauf ab, KI-Dienste zu verbieten, die nicht einvernehmliche sexuelle Bilder sowie Kinderpornografie erzeugen können. Diese Übereinstimmung zwischen Parlament und Mitgliedstaaten verdeutlicht den gemeinsamen Wunsch nach einer strengeren Regulierung sensibler KI-Anwendungen in einer Zeit, in der sich die technologischen Möglichkeiten rasant weiterentwickeln.