دیپ‌فیک: متا به دلیل کاستی‌هایش در مبارزه با محتوای تولید شده توسط هوش مصنوعی مورد انتقاد قرار گرفت

هوش مصنوعی عمیقاً جریان اطلاعات در رسانههای اجتماعی را تغییر میدهد، تا جایی که تصاویر و ویدیوهای مصنوعی میتوانند موقعیتهای زندگی واقعی را با دقت نگرانکنندهای تقلید کنند.

در مواجهه با این تحول، غولهای وب در تلاشند تا سیستمهای تعدیل خود را تطبیق دهند. اما در مورد متا، این تلاشها هنوز به دور از قانعکننده به نظر میرسند.

در واقع، هیئت نظارت این شرکت، که مسئول ارزیابی تصمیمات تعدیل محتوا است، به تازگی به چندین کاستی در مدیریت دیپفیک در فیسبوک، اینستاگرام و Threads اشاره کرده است. طبق گزارش online، مکانیسمهای فعلی برای محدود کردن انتشار محتوای گمراهکننده تولید شده توسط هوش مصنوعی کافی نیستند...

تشخیص در برابر جعل عمیق بسیار محدود تلقی میشود

پس از بررسی ویدیوها، از جمله یک ویدیوی تولید شده توسط هوش مصنوعی که خسارت ادعایی به ساختمانها در اسرائیل را نشان میدهد، این سازمان معتقد است که روشهای تشخیص مورد استفاده توسط متا "به اندازه کافی قوی یا جامع نیستند.".

در مورد این ویدیو که سال گذشته در جریان درگیری بین اسرائیل و ایران منتشر شد، در ابتدا توسط پلتفرم به صورت آنلاین رها شد. هیئت مدیره در نهایت تصمیم گرفت این تصمیم را لغو کند و متا را نسبت به محدودیتهای استراتژی فعلی خود آگاه سازد. یکی از مشکلات شناسایی شده مربوط به اتکای بیش از حد به خودگزارشدهی توسط تولیدکنندگان محتوا است. در عمل، پلتفرمها اغلب به گزارش کاربران مبنی بر تولید تصویر یا ویدیو توسط هوش مصنوعی وابسته هستند. این رویکرد در مواجهه با کمپینهای سازمانیافتهی انتشار اطلاعات نادرست، غیرواقعی تلقی میشود. وضعیت با گردش چند پلتفرمی محتوا پیچیدهتر میشود، زیرا در مورد مورد مطالعه، ظاهراً این ویدیو ابتدا در تیکتاک منتشر شده و سپس در فیسبوک، اینستاگرام و ایکس به اشتراک گذاشته شده است و همین امر، مدیریت محتوا را دشوارتر میکند. هیئت نظارت خواستار بازنگری اساسی در مدیریت محتوا است. با توجه به این محدودیتها، هیئت نظارت از متا میخواهد که رویکرد خود را در مورد مدیریت مرتبط با هوش مصنوعی به طور کامل بررسی کند. برای این منظور، چندین راه برای بهبود شفافیت و تشخیص محتوای مصنوعی در حال بررسی است. از جمله توصیهها، استقرار گستردهتر استانداردهای منشأ رسانه، مانند سیستم C2PA (اعتبارات محتوا) است که برای شناسایی منشأ یک فایل دیجیتال طراحی شده است. این نوع فناوری به وضوح به کاربران اینترنت نشان میدهد که آیا یک تصویر یا ویدیو توسط هوش مصنوعی تولید یا اصلاح شده است یا خیر. شورا همچنین از متا میخواهد که ابزارهای تشخیص مؤثرتری را توسعه دهد و برچسبگذاری محتوای تولید شده توسط هوش مصنوعی را تعمیم دهد. هدف این است که این اطلاعات در مقیاس وسیع قابل مشاهده باشند تا کاربران بتوانند راحتتر رسانههای گمراهکننده را شناسایی کنند. ایجاد یک استاندارد اجتماعی جداگانه مختص محتوای تولید شده توسط هوش مصنوعی نیز درخواست شده است، به ویژه از آنجایی که چنین قانونی امکان تنظیم بهتر دیپفیک و واکنش سریعتر در هنگام انتشار محتوای گمراهکننده را فراهم میکند. در حالی که این توصیهها در بحبوحه تنشهای فزاینده پیرامون اطلاعات نادرست و نقش پلتفرمها مطرح میشوند، با افزایش دسترسی به ابزارهای هوش مصنوعی، توانایی شبکههای اجتماعی در تشخیص حقیقت از دروغ به یک مسئله مهم برای قابلیت اطمینان اطلاعات آنلاین تبدیل میشود.