Uni Eropa ingin melarang perangkat lunak AI yang menanggalkan pakaian tanpa persetujuan.

Meskipun kecerdasan buatan semakin banyak digunakan dalam berbagai aplikasi, potensi penyalahgunaannya terus mengkhawatirkan lembaga-lembaga Eropa.

Di antaranya, pembuatan konten seksual tanpa persetujuan dari gambar asli memicu mobilisasi politik yang semakin meningkat. Bahkan, di Brussels, Anggota Parlemen Eropa kini ingin melangkah lebih jauh dengan mengatur praktik-praktik ini secara lebih ketat…

Larangan yang ditargetkan pada alat “ketelanjangan”

Seperti yang dilaporkan dalam siaran pers, Parlemen Eropa sedang bergerak menuju larangan teknologi yang mampu menghasilkan deepfake seksual.

Lebih spesifiknya, komite Kebebasan Sipil dan Pasar Internal mengadopsi amandemen yang menargetkan sistem yang disebut "nudasi". Dalam praktiknya, alat-alat ini bergantung pada kecerdasan buatan untuk membuat atau memanipulasi gambar intim orang sungguhan yang dapat diidentifikasi tanpa persetujuan mereka. Praktik ini, menurut beberapa Anggota Parlemen Eropa, telah menyebabkan kerugian yang signifikan. Anggota Parlemen Eropa Michael McNamara menganjurkan sikap tegas, mengecam aplikasi yang menimbulkan "banyak penderitaan demi keuntungan segelintir orang." Kim van Sparrentak, di sisi lain, melihatnya sebagai langkah maju yang signifikan, khususnya untuk perlindungan perempuan dan anak di bawah umur. Teks tersebut masih perlu diajukan kepada semua Anggota Parlemen Eropa untuk pemungutan suara dalam sesi pleno yang dijadwalkan pada 26 Maret. Jika disetujui, negosiasi dengan negara-negara anggota kemudian akan diperlukan untuk mencapai versi final dan yang berlaku.

Efek pemicu dari kasus Grok

Pengetatan peraturan ini terjadi dalam konteks yang ditandai oleh beberapa kontroversi baru-baru ini, salah satu yang paling signifikan berkaitan dengan Grok, yang tersedia di jejaring sosial Elon Musk.

Alat tersebut untuk sementara memungkinkan pengguna untuk menghasilkan gambar-gambar yang berbau seksual dari foto asli, termasuk foto wanita dan anak-anak. Fitur ini dengan cepat memicu reaksi keras di Eropa, mendorong pihak berwenang untuk membuka penyelidikan. Di bawah tekanan, xAI kemudian membatasi akses ke fitur-fitur tertentu dan memastikan bahwa mereka akan memblokir pembuatan gambar-gambar eksplisit seksual, tetapi hanya di yurisdiksi di mana konten tersebut ilegal. Langkah pertama di Prancis dan Spanyol? Sejalan dengan kasus ini, negara-negara anggota Uni Eropa telah menyetujui proposal Prancis-Spanyol yang sejalan dengan hal tersebut. Proposal ini bertujuan untuk melarang layanan AI yang mampu menghasilkan gambar seksual tanpa persetujuan, serta pornografi anak. Konvergensi antara Parlemen dan negara-negara anggota ini menggambarkan keinginan bersama untuk mengatur penggunaan AI yang sensitif secara lebih ketat, pada saat kemampuan teknologi berkembang pesat.