Deepfakes: Meta dikritik karena kekurangannya dalam memerangi konten yang dihasilkan AI.

AI secara mendalam mengubah aliran informasi di media sosial, hingga gambar dan video yang dibuat secara artifisial dapat meniru situasi kehidupan nyata dengan akurasi yang mengkhawatirkan.

Menghadapi evolusi ini, raksasa web mencoba menyesuaikan sistem moderasi mereka. Namun dalam kasus Meta, upaya-upaya ini tampaknya masih jauh dari meyakinkan.

Bahkan, Dewan Pengawas perusahaan, yang bertanggung jawab untuk mengevaluasi keputusan moderasi konten, baru saja menunjukkan beberapa kekurangan dalam pengelolaan deepfake di Facebook, Instagram, dan Threads.

Menurut laporan daring, mekanisme saat ini tidak cukup untuk membatasi penyebaran konten menyesatkan yang dihasilkan oleh AI…

Deteksi dianggap terlalu terbatas terhadap deepfake

Setelah memeriksa video, termasuk satu video yang dihasilkan AI yang menunjukkan dugaan kerusakan bangunan di Israel, organisasi tersebut percaya bahwa metode deteksi yang digunakan oleh Meta "tidak cukup kuat atau komprehensif.".

Mengenai video ini, yang dirilis tahun lalu selama konflik antara Israel dan Iran, video tersebut awalnya dibiarkan daring oleh platform tersebut. Dewan akhirnya memutuskan untuk membatalkan keputusan ini dan mengingatkan Meta tentang keterbatasan strateginya saat ini. Salah satu masalah yang diidentifikasi menyangkut ketergantungan yang berlebihan pada pelaporan mandiri oleh pembuat konten.

Dalam praktiknya, platform sering kali bergantung pada pengguna untuk melaporkan apakah suatu gambar atau video dihasilkan oleh kecerdasan buatan. Pendekatan ini dianggap tidak realistis dalam menghadapi kampanye disinformasi yang terorganisir. Situasi ini semakin rumit karena peredaran konten di berbagai platform, seperti dalam kasus yang dipelajari, video tersebut dilaporkan pertama kali dipublikasikan di TikTok sebelum dibagikan di Facebook, Instagram, dan X, sehingga moderasi menjadi lebih sulit. Dewan Pengawas menyerukan perombakan moderasi. Mengingat keterbatasan ini, Dewan Pengawas meminta Meta untuk meninjau secara menyeluruh pendekatannya terhadap moderasi terkait AI. Untuk tujuan ini, beberapa cara sedang dieksplorasi untuk meningkatkan transparansi dan deteksi konten sintetis. Di antara rekomendasinya adalah penerapan standar asal usul media yang lebih luas, seperti sistem C2PA (Content Credentials), yang dirancang untuk mengidentifikasi asal usul file digital. Jenis teknologi ini akan secara jelas menunjukkan kepada pengguna internet apakah suatu gambar atau video telah dihasilkan atau dimodifikasi oleh AI. Dewan juga meminta Meta untuk mengembangkan alat deteksi yang lebih efektif dan untuk menggeneralisasi pelabelan konten yang dihasilkan AI. Tujuannya adalah untuk membuat informasi ini terlihat dalam skala besar, sehingga pengguna dapat lebih mudah mengidentifikasi media yang menyesatkan. Pembuatan standar komunitas terpisah yang dikhususkan untuk konten yang dihasilkan AI juga diminta, terutama karena aturan tersebut akan memungkinkan regulasi deepfake yang lebih baik dan respons yang lebih cepat ketika konten yang menyesatkan beredar. Meskipun rekomendasi ini muncul di tengah meningkatnya ketegangan seputar disinformasi dan peran platform, seiring dengan semakin mudahnya akses terhadap alat AI, kemampuan jejaring sosial untuk membedakan kebenaran dari kebohongan menjadi isu utama bagi keandalan informasi daring.