Evropská unie chce zakázat nástroje umělé inteligence, které se svlékají bez souhlasu

Zatímco umělá inteligence se v mnoha aplikacích stává stále rozšířenější, její potenciální zneužívání nadále znepokojuje evropské instituce.

Mezi nimi rostoucí politickou mobilizaci vyvolává vytváření sexuálního obsahu bez souhlasu ze skutečných obrázků. V Bruselu dokonce poslanci Evropského parlamentu nyní chtějí jít ještě o krok dál a tyto praktiky přísněji regulovat…

Cílený zákaz nástrojů pro „nadání“

Jak uvádí tisková zpráva, Evropský parlament směřuje k zákazu technologií schopných generovat sexuální deepfaky. Konkrétněji, výbory pro občanské svobody a vnitřní trh přijaly pozměňovací návrh zaměřený na tzv. systémy „nudace“. V praxi se tyto nástroje spoléhají na umělou inteligenci k vytváření nebo manipulaci s intimními snímky skutečných, identifikovatelných osob bez jejich souhlasu. Tato praxe podle několika poslanců Evropského parlamentu již způsobila značné škody. Poslanec Michael McNamara prosazuje pevný postoj a odsuzuje aplikace, které způsobují „velké utrpení ve prospěch několika málo osob“. Kim van Sparrentaková to zase považuje za významný krok vpřed, zejména v oblasti ochrany žen a nezletilých. Text musí být ještě předložen všem poslancům Evropského parlamentu k hlasování na plenárním zasedání plánovaném na 26. března. Pokud bude schválen, budou nutná jednání s členskými státy, aby se dospělo ke konečné a použitelné verzi.

Spouštěcí účinek aféry Grok

Toto regulační zpřísnění přichází v kontextu několika nedávných kontroverzí, z nichž jedna z nejvýznamnějších se týkala aféry Grok, je k dispozici na sociální síti Elona Muska.

Nástroj dočasně umožňoval uživatelům generovat sexualizované obrázky ze skutečných fotografií, včetně fotografií žen a dětí. Tato funkce rychle vyvolala v Evropě silnou reakci a přiměla úřady k zahájení vyšetřování. Pod tlakem xAI následně omezila přístup k určitým funkcím a ujistila, že bude blokovat generování sexuálně explicitních obrázků, ale pouze v jurisdikcích, kde je takový obsah nelegální. První krok ve Francii a Španělsku? Souběžně s tímto případem již členské státy Evropské unie schválily francouzsko-španělský návrh ve stejném duchu. Tento návrh si klade za cíl zakázat služby umělé inteligence, které jsou schopny vytvářet sexuální snímky bez souhlasu, a také dětskou pornografii. Toto sblížení mezi Parlamentem a členskými státy ilustruje společnou touhu přísněji regulovat citlivé využití umělé inteligence v době, kdy se technologické možnosti rychle vyvíjejí.