Meta připravuje nástroj pro detekci obsahu s umělou inteligencí

Vzhledem k tomu, že obsah generovaný umělou inteligencí zaplavuje web a podle nedávných pozorování dosahuje přes 50 %, se technologičtí giganti začínají přizpůsobovat.

Někteří hráči, kteří do značné míry přispěli k demokratizaci těchto způsobů využití, se nyní snaží o jejich lepší regulaci.

V této souvislosti údajně Meta pracuje na stále nenápadné funkci, která však odhaluje aktuální problémy spojené s generativní umělou inteligencí…

Detektor umělé inteligence integrovaný přímo do Meta AI

Podle některých uživatelů, V rozhraní Meta AI byl spatřen nástroj s názvem „AI Detector“. Tato funkce, která je stále ve vývoji, by uživatelům umožnila analyzovat obsah a zjistit, zda byl generován umělou inteligencí. První stopy byly identifikovány společností TestingCatalog aktivací interních funkcí v kódu aplikace, což je běžná praxe pro odhalování neohlášených nástrojů. V současné době detektor není aktivní a každé kliknutí na tuto možnost vede na neaktivní stránku, což naznačuje, že projekt je stále ve fázi testování. Na základě dostupných informací se však tento nástroj může zpočátku zaměřit na analýzu textu, než se rozšíří do dalších formátů, jako jsou obrázky, zvuk nebo video. Vývoj v souladu s masivními investicemi společnosti Meta do generování multimediálního obsahu…

Reakce na šíření syntetického obsahu?

Tento vývoj přichází v určitém kontextu, kdy Meta v posledních měsících znásobila generativní funkce umělé inteligence na svých platformách, jako je nedávná transformace fotografií do příběhů. To bohužel vedlo k explozi toho, co někteří nyní nazývají „AI slop“, masově produkovaného, často nekvalitního syntetického obsahu.

Skupina dokonce experimentuje s novými formáty, jako jsou například feedy, kde ústřední místo zaujímá obsah generovaný umělou inteligencí. Tento přístup hluboce transformuje uživatelskou zkušenost, ale také vyvolává otázky ohledně spolehlivosti a čitelnosti šířených informací.

Vzhledem k této situaci se vývoj detektoru umělé inteligence jeví jako forma obranné reakce.

To však vyvolává důležitou otázku: bude tento nástroj schopen identifikovat obsah z jakéhokoli modelu, nebo pouze obsah produkovaný ekosystémem Meta? V praxi tato volba přímo ovlivní jeho dosah. Navíc, ačkoli v této fázi nebylo učiněno žádné oficiální oznámení, tato iniciativa ilustruje základní trend: po urychlení produkce obsahu prostřednictvím umělé inteligence se platformy nyní snaží jej lépe identifikovat a potenciálně znovu získat kontrolu nad ním.