Deepfake: Meta criticata per le sue carenze nella lotta contro i contenuti generati dall'intelligenza artificiale

L'intelligenza artificiale sta trasformando profondamente il flusso di informazioni sui social media, al punto che immagini e video creati artificialmente possono imitare situazioni di vita reale con una precisione inquietante.

Di fronte a questa evoluzione, i giganti del web stanno cercando di adattare i loro sistemi di moderazione. Ma nel caso di Meta, questi sforzi sembrano ancora tutt'altro che convincenti.

Infatti, l'Oversight Board dell'azienda, responsabile della valutazione delle decisioni di moderazione dei contenuti, ha appena evidenziato diverse carenze nella gestione dei deepfake su Facebook, Instagram e Threads. Secondo il rapporto online, gli attuali meccanismi sono insufficienti per limitare la diffusione di contenuti fuorvianti generati dall'IA...

Rilevamento ritenuto troppo limitato contro i deepfake

Dopo aver esaminato alcuni video, tra cui uno generato dall'IA che mostra presunti danni a edifici in Israele, l'organizzazione ritiene che i metodi di rilevamento utilizzati da Meta non siano "sufficientemente solidi o completi"..

Per quanto riguarda questo video, pubblicato lo scorso anno durante un conflitto tra Israele e Iran, era stato inizialmente lasciato online dalla piattaforma. Il Consiglio ha infine deciso di revocare questa decisione e di segnalare a Meta i limiti della sua attuale strategia. Uno dei problemi individuati riguarda l'eccessivo affidamento all'auto-segnalazione da parte dei creatori di contenuti. Nella pratica, le piattaforme spesso dipendono dagli utenti per segnalare se un'immagine o un video è stato generato dall'intelligenza artificiale. Questo approccio è considerato irrealistico di fronte alle campagne di disinformazione organizzate. La situazione è ulteriormente complicata dalla circolazione multipiattaforma dei contenuti: nel caso studiato, il video sarebbe stato pubblicato inizialmente su TikTok prima di essere condiviso su Facebook, Instagram e X, rendendo più difficile la moderazione. L'Oversight Board chiede una revisione della moderazione. Date queste limitazioni, l'Oversight Board chiede a Meta di rivedere a fondo il suo approccio alla moderazione relativa all'intelligenza artificiale. A tal fine, si stanno esplorando diverse strade per migliorare la trasparenza e il rilevamento di contenuti sintetici. Tra le raccomandazioni vi è la più ampia implementazione di standard di provenienza dei media, come il sistema C2PA (Content Credentials), progettato per identificare l'origine di un file digitale. Questo tipo di tecnologia indicherebbe chiaramente agli utenti di Internet se un'immagine o un video è stato generato o modificato dall'intelligenza artificiale. Il Consiglio chiede inoltre a Meta di sviluppare strumenti di rilevamento più efficaci e di generalizzare l'etichettatura dei contenuti generati dall'intelligenza artificiale. L'obiettivo è quindi rendere queste informazioni visibili su larga scala, in modo che gli utenti possano identificare più facilmente i contenuti fuorvianti. È inoltre richiesta la creazione di uno standard comunitario separato dedicato ai contenuti generati dall'intelligenza artificiale, soprattutto perché tale norma consentirebbe una migliore regolamentazione dei deepfake e una risposta più rapida alla circolazione di contenuti fuorvianti. Sebbene queste raccomandazioni giungano in un contesto di crescenti tensioni sulla disinformazione e sul ruolo delle piattaforme, con la crescente accessibilità degli strumenti di intelligenza artificiale, la capacità dei social network di distinguere il vero dal falso sta diventando un problema importante per l'affidabilità delle informazioni online.