اتحادیه اروپا می‌خواهد ابزارهای هوش مصنوعی که بدون رضایت افراد لباس‌هایشان را درمی‌آورند، ممنوع کند.

در حالی که هوش مصنوعی در بسیاری از برنامهها به طور فزایندهای رواج مییابد، سوءاستفادههای احتمالی از آن همچنان نهادهای اروپایی را نگران میکند.

در میان این موارد، ایجاد محتوای جنسی بدون رضایت از تصاویر واقعی، بسیج سیاسی رو به رشدی را ایجاد میکند. در واقع، در بروکسل، نمایندگان پارلمان اروپا اکنون میخواهند با تنظیم دقیقتر این شیوهها، یک گام فراتر بروند...

ممنوعیت هدفمند ابزارهای «برهنهسازی»

همانطور که در بیانیه مطبوعاتی گزارش شده است، پارلمان اروپا در حال حرکت به سمت ممنوعیت فناوریهایی است که قادر به تولید دیپ فیک جنسی هستند. به طور خاص، کمیتههای آزادیهای مدنی و بازار داخلی اصلاحیهای را تصویب کردند که سیستمهای به اصطلاح "nudation" را هدف قرار میداد. در عمل، این ابزارها با تکیه بر هوش مصنوعی، تصاویر خصوصی افراد واقعی و قابل شناسایی را بدون رضایت آنها ایجاد یا دستکاری میکنند. به گفته چندین نماینده پارلمان اروپا، این عمل در حال حاضر آسیبهای قابل توجهی ایجاد کرده است. مایکل مکنامارا، نماینده پارلمان اروپا، از موضع قاطعی حمایت میکند و برنامههایی را که "رنج زیادی را برای منفعت عدهای معدود ایجاد میکنند" محکوم میکند. کیم ون اسپارنتاک، به نوبه خود، این را گامی مهم به جلو، به ویژه برای حمایت از زنان و افراد زیر سن قانونی میداند. این متن هنوز باید برای رأیگیری در جلسه عمومی که قرار است در تاریخ ۲۶ مارس برگزار شود، به همه نمایندگان پارلمان اروپا ارائه شود. در صورت تصویب، مذاکرات با کشورهای عضو برای دستیابی به نسخه نهایی و قابل اجرا ضروری خواهد بود.

اثر تحریکآمیز ماجرای گروک

این تشدید مقررات در شرایطی صورت میگیرد که اخیراً چندین جنجال به پا شده است، که یکی از مهمترین آنها مربوط به گروک است و در شبکه اجتماعی ایلان ماسک موجود است.

این ابزار به طور موقت به کاربران اجازه میداد تا تصاویر جنسی را از عکسهای واقعی، از جمله تصاویر زنان و کودکان، تولید کنند. این ویژگی به سرعت واکنش شدیدی را در اروپا برانگیخت و مقامات را وادار به آغاز تحقیقات کرد. تحت فشار، xAI متعاقباً دسترسی به برخی ویژگیها را محدود کرد و اطمینان داد که تولید تصاویر صریح جنسی را مسدود خواهد کرد، اما فقط در حوزههای قضایی که چنین محتوایی غیرقانونی است. اولین قدم در فرانسه و اسپانیا؟ به موازات این مورد، کشورهای عضو اتحادیه اروپا قبلاً یک پیشنهاد فرانسوی-اسپانیایی را در همین راستا تصویب کردهاند. این پیشنهاد با هدف ممنوعیت سرویسهای هوش مصنوعی که قادر به تولید تصاویر جنسی بدون رضایت و همچنین پورنوگرافی کودکان هستند، ارائه شده است. این همگرایی بین پارلمان و کشورهای عضو، تمایل مشترک برای تنظیم دقیقتر کاربردهای حساس هوش مصنوعی را در زمانی که قابلیتهای فناوری به سرعت در حال تکامل هستند، نشان میدهد.