Meta förbereder ett verktyg för att upptäcka AI-innehåll

Allt eftersom AI-genererat innehåll översvämmar webben och når över 50 % enligt aktuella observationer, börjar teknikjättar anpassa sig.

Efter att i hög grad ha bidragit till att demokratisera dessa användningsområden försöker vissa aktörer nu reglera dem bättre.

Det är i detta sammanhang som Meta enligt uppgift arbetar med en fortfarande diskret funktion, men en som avslöjar de aktuella problemen kring generativ AI…

En AI-detektor integrerad direkt i Meta AI

Enligt vissa användare, Ett verktyg som heter "AI Detector" har upptäckts i Metas AI-gränssnitt. Denna funktion, som fortfarande är under utveckling, skulle göra det möjligt för användare att analysera innehåll för att avgöra om det genererades av artificiell intelligens. De första spåren identifierades av TestingCatalog genom aktivering av interna funktioner i applikationens kod, en vanlig praxis för att upptäcka oanmälda verktyg. För närvarande är detektorn inte aktiv, och varje klick på alternativet leder till en inaktiv sida, vilket indikerar att projektet fortfarande är i testfasen. Baserat på tillgänglig information kan dock detta verktyg initialt fokusera på textanalys innan det expanderar till andra format som bilder, ljud eller video. En utveckling som överensstämmer med Metas massiva investeringar i generering av multimediainnehåll…

Ett svar på spridningen av syntetiskt innehåll?

Denna utveckling kommer i ett särskilt sammanhang, där Meta under de senaste månaderna har mångfaldigat de generativa AI-funktionerna på sina plattformar, såsom den senaste tidens omvandling av foton till berättelser. Tyvärr har detta resulterat i en explosion av vad vissa nu kallar "AI-slöj", massproducerat, ofta lågkvalitativt syntetiskt innehåll.

Faktum är att gruppen till och med experimenterar med nya format, såsom flöden där AI-genererat innehåll intar en central plats. Denna metod förändrar användarupplevelsen i grunden, men väcker också frågor om tillförlitligheten och läsbarheten hos den information som sprids.

Inför denna situation framstår utvecklingen av en AI-detektor som en form av defensiv respons.

Men detta väcker en viktig fråga: kommer detta verktyg att kunna identifiera innehåll från vilken modell som helst, eller bara innehåll som produceras av Meta-ekosystemet? I praktiken kommer detta val direkt att påverka dess räckvidd. Dessutom, även om inget officiellt tillkännagivande har gjorts i detta skede, illustrerar detta initiativ en grundläggande trend: efter att ha accelererat innehållsproduktionen via AI, försöker plattformar nu bättre identifiera den och potentiellt återta kontrollen över den.