Deepfakes: Meta kritiseras för sina brister i kampen mot AI-genererat innehåll

AI förändrar informationsflödet på sociala medier i grunden, till den grad att artificiellt skapade bilder och videor kan imitera verkliga situationer med oroande noggrannhet.

Inför denna utveckling försöker webbjättar anpassa sina modereringssystem. Men när det gäller Meta verkar dessa ansträngningar fortfarande långt ifrån övertygande.

Företagets tillsynsnämnd, som ansvarar för att utvärdera beslut om innehållsmoderering, har just påpekat flera brister i hanteringen av deepfakes på Facebook, Instagram och i trådar. Enligt onlinerapporten är nuvarande mekanismer otillräckliga för att begränsa spridningen av vilseledande innehåll som genereras av AI…

Upptäckt bedöms vara för begränsat mot deepfakes

Efter att ha granskat videor, inklusive en AI-genererad video som visar påstådda skador på byggnader i Israel, anser organisationen att de detekteringsmetoder som används av Meta är "inte tillräckligt robusta eller omfattande"..

Angående denna video, som släpptes förra året under en konflikt mellan Israel och Iran, lämnades den ursprungligen online av plattformen. Styrelsen beslutade slutligen att upphäva detta beslut och varna Meta för begränsningarna i sin nuvarande strategi. Ett av de identifierade problemen gäller det överdrivna beroendet av självrapportering från innehållsskapare. I praktiken är plattformar ofta beroende av att användare rapporterar om en bild eller video genererades av artificiell intelligens. Detta tillvägagångssätt anses orealistiskt med tanke på organiserade desinformationskampanjer. Situationen kompliceras ytterligare av den multiplattformsspridning av innehåll, som i det studerade fallet där videon enligt uppgift först publicerades på TikTok innan den delades på Facebook, Instagram och X, vilket försvårar moderering. Tillsynsnämnden efterlyser en översyn av modereringen. Med tanke på dessa begränsningar ber tillsynsnämnden Meta att noggrant se över sitt tillvägagångssätt för AI-relaterad moderering. I detta syfte undersöks flera vägar för att förbättra transparensen och upptäckten av syntetiskt innehåll. Bland rekommendationerna finns en bredare spridning av medieproveniensstandarder, såsom C2PA-systemet (Content Credentials), utformat för att identifiera ursprunget till en digital fil. Denna typ av teknik skulle tydligt indikera för internetanvändare om en bild eller video har genererats eller modifierats av AI. Rådet ber också Meta att utveckla mer effektiva detekteringsverktyg och att generalisera märkningen av AI-genererat innehåll. Målet är sedan att göra denna information synlig i stor skala, så att användare lättare kan identifiera vilseledande medier. Skapandet av en separat communitystandard dedikerad till AI-genererat innehåll efterfrågas också, särskilt eftersom en sådan regel skulle möjliggöra bättre reglering av deepfakes och en snabbare respons när vilseledande innehåll cirkulerar. Även om dessa rekommendationer kommer mitt i växande spänningar kring desinformation och plattformarnas roll, blir sociala nätverks förmåga att skilja sanning från lögn en viktig fråga för tillförlitligheten hos onlineinformation i takt med att AI-verktyg blir mer tillgängliga.