Avrupa Birliği, rıza olmadan soyunmayı sağlayan yapay zekâ araçlarını yasaklamak istiyor.

Yapay zekâ birçok uygulamada giderek yaygınlaşırken, potansiyel kötüye kullanımları Avrupa kurumlarını endişelendirmeye devam ediyor.

Bunlar arasında, gerçek görüntülerden rızasız cinsel içerik oluşturulması giderek artan siyasi bir seferberliğe yol açıyor. Nitekim, Brüksel'de Avrupa Parlamentosu üyeleri artık bu uygulamaları daha sıkı bir şekilde düzenleyerek işleri bir adım daha ileri götürmek istiyor…

“Çıplaklık” araçlarına yönelik hedefli bir yasak

Bir basın bülteninde bildirildiği üzere, Avrupa Parlamentosu cinsel içerikli deepfake'ler üretebilen teknolojilere yönelik bir yasağa doğru ilerliyor. Daha spesifik olarak, Sivil Özgürlükler ve İç Pazar komiteleri, "çıplaklık" sistemlerini hedef alan bir değişiklik önergesini kabul etti. Uygulamada, bu araçlar yapay zekâya dayanarak gerçek, kimliği belirlenebilir kişilerin mahrem görüntülerini rızaları olmadan oluşturuyor veya manipüle ediyor. Birçok Avrupa Parlamentosu üyesine göre, bu uygulama zaten önemli zararlara yol açtı. Avrupa Parlamentosu üyesi Michael McNamara, "birkaç kişinin yararına büyük acılara neden olan" uygulamaları kınayarak kararlı bir duruş sergilenmesini savunuyor. Kim van Sparrentak ise bunu, özellikle kadınların ve çocukların korunması açısından önemli bir adım olarak görüyor. Metnin, 26 Mart'ta yapılması planlanan genel kurul oturumunda oylama için tüm Avrupa Parlamentosu üyelerine sunulması gerekiyor. Onaylanırsa, nihai ve uygulanabilir bir versiyona ulaşmak için üye devletlerle müzakereler yapılması gerekecek.

Grok olayının tetikleyici etkisi

Bu düzenleyici sıkılaştırma, son zamanlarda yaşanan birçok tartışmanın yaşandığı bir bağlamda geliyor; bunlardan en önemlisi Elon Musk'ın sosyal ağında bulunan Grok ile ilgili.

Araç, kullanıcıların gerçek fotoğraflardan, kadın ve çocuk fotoğrafları da dahil olmak üzere, cinsel içerikli görüntüler oluşturmasına geçici olarak izin vermişti. Bu özellik, Avrupa'da hızla güçlü bir tepkiye yol açarak yetkililerin soruşturma başlatmasına neden oldu. Baskı altında kalan xAI, daha sonra belirli özelliklere erişimi kısıtladı ve cinsel içerikli görüntülerin oluşturulmasını engelleyeceğini, ancak yalnızca bu tür içeriklerin yasa dışı olduğu yargı bölgelerinde bunu yapacağını garanti etti. Fransa ve İspanya'da ilk adım mı? Bu olayla paralel olarak, Avrupa Birliği üye devletleri aynı doğrultuda bir Fransız-İspanyol teklifini zaten onayladı. Bu öneri, rıza dışı cinsel içerikli görüntüler ve çocuk pornografisi üretebilen yapay zeka hizmetlerini yasaklamayı amaçlamaktadır. Parlamento ile üye devletler arasındaki bu yakınlaşma, teknolojik yeteneklerin hızla geliştiği bir dönemde, yapay zekanın hassas kullanımlarını daha sıkı bir şekilde düzenleme yönündeki ortak bir arzuyu göstermektedir.