Google otevírá svůj nástroj pro detekci pomocí umělé inteligence: Co je SynthID a jak funguje?

S rostoucí sofistikovaností umělé inteligence se hranice mezi autentickými médii a syntetickým obsahem stále více stírá. Aby společnost Google reagovala na rostoucí potřebu transparentnosti, oficiálně zpřístupnila veřejnosti své ověřovací webové stránky SynthID a nabídla nový bezplatný nástroj určený k identifikaci obrázků, videí a zvuku generovaných umělou inteligencí.

Co je SynthID?

SynthID, vyvinutý společností Google DeepMind a poprvé představený v roce 2023, je robustní technologie vodoznaků. Na rozdíl od tradičních vodoznaků, které lze snadno oříznout nebo odstranit, SynthID vkládá nepostřehnutelné digitální signály přímo do média v okamžiku jeho vytvoření. Tyto značky jsou navrženy tak, aby přetrvaly i po rozsáhlých manipulacích, jako jsou úpravy barev, komprese souborů nebo oříznutí, což z nich činí klíčový nástroj pro ověřování původu v éře deepfakes a dezinformací generovaných umělou inteligencí.

Jak používat ověřovací nástroj

Nově veřejně přístupné webové stránky umožňují uživatelům nahrávat různé formáty médií, včetně JPG, PNG, WEBP a GIF pro obrázky; MP4 a MOV pro video; a audio formáty jako MP3 a WAV. Jakmile je soubor nahrán, systém vyhledá digitální podpis. Pokud je nalezen, poskytuje důkaz, že obsah byl vytvořen nebo upraven systémy umělé inteligence, které podporují standard SynthID.

Pochopení omezení

I když se jedná o významný krok vpřed, je zásadní pochopit, co SynthID je a co ne.

• Není to univerzální detektor: SynthID není komplexním řešením pro detekci veškerého obsahu generovaného umělou inteligencí. Potvrzuje pouze přítomnost svého specifického vloženého vodoznaku.
• Význam „Nedetekováno“: Negativní sken nedokazuje, že dané médium je vytvořeno člověkem. Obsah mohl být generován systémem, který nepoužívá standard SynthID, nebo mohl být podroben extrémním úpravám, které odstranily vodoznak.

Proč je to důležité

Google není jediným hráčem v tomto prostoru; Společnosti jako OpenAI a Nvidia také zkoumají systémy vodoznaků a ověřování původu. I když zatím neexistuje univerzální standard, rozhodnutí společnosti Google zpřístupnit SynthID všem – nejen novinářům a výzkumníkům – představuje pozitivní posun v digitální gramotnosti. Vzhledem k tomu, že se denně zpracovávají miliony žádostí o ověření, stává se tato technologie nezbytnou vrstvou zabezpečení v našich digitálních životech a pomáhá uživatelům činit informovaná rozhodnutí o médiích, která konzumují.