Google udostępnia swoje narzędzie do wykrywania sztucznej inteligencji: czym jest SynthID i jak działa?

Wraz z rosnącym zaawansowaniem sztucznej inteligencji, granica między autentycznymi mediami a treściami syntetycznymi staje się coraz bardziej niewyraźna. Aby sprostać rosnącej potrzebie transparentności, Google oficjalnie udostępniło publicznie swoją stronę weryfikacji SynthID, oferując nowe, bezpłatne narzędzie do identyfikacji obrazów, filmów i dźwięków generowanych przez sztuczną inteligencję.

Czym jest SynthID?

SyntID, opracowany przez Google DeepMind i wprowadzony po raz pierwszy w 2023 roku, to solidna technologia znaków wodnych. W przeciwieństwie do tradycyjnych znaków wodnych, które można łatwo przyciąć lub usunąć, SynthID osadza niezauważalne, cyfrowe sygnały bezpośrednio w mediach w momencie ich tworzenia. Te znaczniki zostały zaprojektowane tak, aby były widoczne nawet po znaczących manipulacjach, takich jak dostosowanie kolorów, kompresja pliku czy kadrowanie, co czyni je kluczowym narzędziem weryfikacji pochodzenia w erze deepfake'ów i dezinformacji generowanej przez sztuczną inteligencję.

Jak korzystać z narzędzia weryfikacji

Nowa, publiczna strona internetowa umożliwia użytkownikom przesyłanie różnych formatów multimediów, w tym JPG, PNG, WEBP i GIF dla obrazów; MP4 i MOV dla wideo; oraz formatów audio, takich jak MP3 i WAV. Po przesłaniu pliku system skanuje go w poszukiwaniu podpisu cyfrowego. Jeśli go znajdzie, dostarcza dowodu, że treść została utworzona lub zmodyfikowana przez systemy sztucznej inteligencji obsługujące standard SynthID.

Zrozumienie ograniczeń

Chociaż jest to znaczący krok naprzód, kluczowe jest zrozumienie, czym jest SynthID, a czym nie.

• Nie jest to uniwersalny detektor: SynthID nie jest kompleksowym rozwiązaniem do wykrywania wszystkich treści generowanych przez sztuczną inteligencję. Potwierdza jedynie obecność określonego, osadzonego znaku wodnego.
• Znaczenie „Nie wykryto”: Negatywny skan nie dowodzi, że dany materiał multimedialny został stworzony przez człowieka. Treść mogła zostać wygenerowana przez system, który nie korzysta ze standardu SynthID, lub mogła zostać poddana radykalnym modyfikacjom, które usunęły znak wodny.

Dlaczego to ma znaczenie

Google nie jest jedynym graczem na tym rynku; firmy takie jak OpenAI i Nvidia również badają systemy znaków wodnych i pochodzenia. Chociaż nie ma jeszcze uniwersalnego standardu, decyzja Google o udostępnieniu SynthID wszystkim – nie tylko dziennikarzom i badaczom – oznacza pozytywną zmianę w zakresie kompetencji cyfrowych. Ponieważ miliony żądań weryfikacji są już przetwarzane codziennie, technologia ta staje się niezbędnym elementem bezpieczeństwa w naszym cyfrowym życiu, pomagając użytkownikom podejmować świadome decyzje dotyczące konsumowanych mediów.