Deepfakes: Meta criticată pentru deficiențele sale în lupta împotriva conținutului generat de inteligența artificială

IA transformă profund fluxul de informații pe rețelele de socializare, până în punctul în care imaginile și videoclipurile create artificial pot imita situații din viața reală cu o precizie tulburătoare.

Confruntate cu această evoluție, giganții web încearcă să își adapteze sistemele de moderare. Dar, în cazul Meta, aceste eforturi par încă departe de a fi convingătoare.

Într-adevăr, Consiliul de Supraveghere al companiei, responsabil cu evaluarea deciziilor de moderare a conținutului, tocmai a semnalat mai multe deficiențe în gestionarea deepfake-urilor pe Facebook, Instagram și Threads. Conform raportului online, mecanismele actuale sunt insuficiente pentru a limita răspândirea conținutului înșelător generat de inteligența artificială…

Detecția împotriva deepfake-urilor este considerată prea limitată

După examinarea videoclipurilor, inclusiv a unui videoclip generat de inteligența artificială care prezintă presupuse daune aduse clădirilor din Israel, organizația consideră că metodele de detectare utilizate de Meta „nu sunt suficient de robuste sau cuprinzătoare”..

În ceea ce privește acest videoclip, care a fost lansat anul trecut în timpul unui conflict dintre Israel și Iran, acesta a fost inițial lăsat online de platformă. Consiliul a decis în cele din urmă să anuleze această decizie și să alerteze Meta cu privire la limitele strategiei sale actuale. Una dintre problemele identificate se referă la dependența excesivă de auto-raportarea de către creatorii de conținut. În practică, platformele se bazează adesea pe utilizatori pentru a raporta dacă o imagine sau un videoclip a fost generat de inteligența artificială. Această abordare este considerată nerealistă în contextul campaniilor de dezinformare organizate. Situația este complicată și mai mult de circulația conținutului pe mai multe platforme, deoarece, în cazul studiat, videoclipul ar fi fost publicat inițial pe TikTok înainte de a fi distribuit pe Facebook, Instagram și X, ceea ce îngreunează moderarea. Consiliul de Supraveghere solicită o revizuire a moderării. Având în vedere aceste limitări, Consiliul de Supraveghere solicită Meta să își revizuiască temeinic abordarea privind moderarea legată de inteligența artificială. În acest scop, se explorează mai multe căi pentru a îmbunătăți transparența și detectarea conținutului sintetic. Printre recomandări se numără implementarea pe scară mai largă a standardelor de proveniență media, cum ar fi sistemul C2PA (Content Credentials), conceput pentru a identifica originea unui fișier digital. Acest tip de tehnologie ar indica clar utilizatorilor de internet dacă o imagine sau un videoclip a fost generat sau modificat de inteligența artificială. Consiliul solicită, de asemenea, Meta să dezvolte instrumente de detectare mai eficiente și să generalizeze etichetarea conținutului generat de inteligența artificială. Scopul este apoi de a face aceste informații vizibile la scară largă, astfel încât utilizatorii să poată identifica mai ușor media înșelătoare. Se solicită, de asemenea, crearea unui standard comunitar separat dedicat conținutului generat de inteligența artificială, mai ales că o astfel de regulă ar permite o mai bună reglementare a deepfake-urilor și un răspuns mai rapid atunci când circulă conținut înșelător. Deși aceste recomandări vin pe fondul tensiunilor tot mai mari legate de dezinformare și rolul platformelor, pe măsură ce instrumentele de inteligență artificială devin mai accesibile, capacitatea rețelelor sociale de a distinge adevărul de fals devine o problemă majoră pentru fiabilitatea informațiilor online.