Deepfake'ler: Meta, yapay zeka tarafından üretilen içerikle mücadeledeki eksiklikleri nedeniyle eleştirildi.

Yapay zeka, sosyal medyada bilgi akışını derinden dönüştürüyor; öyle ki yapay olarak oluşturulan görüntüler ve videolar, gerçek hayattaki durumları rahatsız edici bir doğrulukla taklit edebiliyor.

Bu evrim karşısında, web devleri denetim sistemlerini uyarlamaya çalışıyor. Ancak Meta örneğinde, bu çabalar hâlâ ikna edici olmaktan çok uzak görünüyor.

Nitekim, içerik denetimi kararlarını değerlendirmekten sorumlu şirket Denetleme Kurulu, Facebook, Instagram ve Threads'te deepfake'lerin yönetiminde çeşitli eksikliklere dikkat çekti.

Derin sahte videolara karşı tespit çok sınırlı bulundu

İsrail'deki binalara verilen iddia edilen hasarı gösteren bir yapay zeka tarafından üretilmiş video da dahil olmak üzere videoları inceledikten sonra, kuruluş Meta tarafından kullanılan tespit yöntemlerinin "yeterince sağlam veya kapsamlı olmadığını" düşünüyor.

İsrail ve İran arasındaki çatışma sırasında geçen yıl yayınlanan bu video, başlangıçta platform tarafından çevrimiçi bırakılmıştı. Kurul nihayetinde bu kararı tersine çevirmeye ve Meta'yı mevcut stratejisinin sınırlılıkları konusunda uyarmaya karar verdi. Belirlenen sorunlardan biri, içerik oluşturucuların kendi kendilerini bildirmelerine aşırı güvenilmesidir. Pratikte, platformlar genellikle bir görselin veya videonun yapay zekâ tarafından oluşturulup oluşturulmadığını bildirmek için kullanıcılara bağımlıdır. Bu yaklaşım, organize dezenformasyon kampanyaları karşısında gerçekçi olmayan bir yaklaşım olarak değerlendirilmektedir. Durum, içeriğin çoklu platformda dolaşımıyla daha da karmaşık hale gelmektedir; incelenen vakada olduğu gibi, video önce TikTok'ta yayınlandıktan sonra Facebook, Instagram ve X'te paylaşılmış ve bu da denetimi daha da zorlaştırmıştır. Denetleme Kurulu, denetimin yeniden düzenlenmesini talep etmektedir. Bu sınırlamalar göz önüne alındığında, Denetleme Kurulu Meta'dan yapay zekâ ile ilgili denetim yaklaşımını kapsamlı bir şekilde gözden geçirmesini istemektedir. Bu amaçla, şeffaflığı ve sentetik içeriğin tespitini iyileştirmek için çeşitli yollar araştırılmaktadır. Öneriler arasında, dijital bir dosyanın kaynağını belirlemek için tasarlanmış C2PA (İçerik Kimlik Bilgileri) sistemi gibi medya kaynak standartlarının daha geniş çapta uygulanması yer almaktadır. Bu tür bir teknoloji, internet kullanıcılarına bir görselin veya videonun yapay zekâ tarafından oluşturulup oluşturulmadığını veya değiştirilip değiştirilmediğini açıkça gösterecektir. Kurul ayrıca Meta'dan daha etkili tespit araçları geliştirmesini ve yapay zekâ tarafından oluşturulan içeriğin etiketlenmesini genelleştirmesini istemektedir. Amaç, bu bilgiyi geniş ölçekte görünür kılmak ve böylece kullanıcıların yanıltıcı medyayı daha kolay tespit edebilmelerini sağlamaktır. Özellikle deepfake'lerin daha iyi düzenlenmesine ve yanıltıcı içerik yayıldığında daha hızlı yanıt verilmesine olanak sağlayacağı için, yapay zeka tarafından üretilen içeriğe adanmış ayrı bir topluluk standardının oluşturulması da talep edilmektedir. Bu öneriler, dezenformasyon ve platformların rolü etrafındaki artan gerilimlerin ortasında gelirken, yapay zeka araçları daha erişilebilir hale geldikçe, sosyal ağların doğruyu yanlıştan ayırt etme yeteneği, çevrimiçi bilgilerin güvenilirliği için büyük bir sorun haline gelmektedir.