Meta przygotowuje narzędzie do wykrywania treści AI

W miarę jak treści generowane przez sztuczną inteligencję zalewają sieć, osiągając ponad 50%, według ostatnich obserwacji, giganci technologiczni zaczynają się do tego dostosowywać.

Niektórzy gracze, którzy w znacznym stopniu przyczynili się do demokratyzacji tych zastosowań, starają się teraz lepiej je regulować.

W tym kontekście Meta podobno pracuje nad wciąż dyskretną funkcją, która jednak ujawnia obecne problemy związane z generatywną sztuczną inteligencją…

Detektor sztucznej inteligencji zintegrowany bezpośrednio z Meta AI

Według niektórych użytkowników, w interfejsie Meta AI zauważono narzędzie o nazwie „AI Detector”. Ta funkcja, wciąż w fazie rozwoju, umożliwi użytkownikom analizowanie treści pod kątem obecności sztucznej inteligencji. Pierwsze ślady zostały zidentyfikowane przez TestingCatalog poprzez aktywację wewnętrznych funkcji w kodzie aplikacji, co jest powszechną praktyką w wykrywaniu niezapowiedzianych narzędzi. Obecnie detektor jest nieaktywny, a każde kliknięcie opcji prowadzi do nieaktywnej strony, co wskazuje, że projekt jest nadal w fazie testów. Jednak na podstawie dostępnych informacji można stwierdzić, że narzędzie to może początkowo koncentrować się na analizie tekstu, zanim zostanie rozszerzone na inne formaty, takie jak obrazy, dźwięk czy wideo. Rozwój zgodny z ogromnymi inwestycjami Meta w generowanie treści multimedialnych…

Odpowiedź na rozprzestrzenianie się treści syntetycznych?

Ten rozwój pojawia się w szczególnym kontekście, w którym w ostatnich miesiącach Meta zwielokrotniła funkcje generatywnej sztucznej inteligencji na swoich platformach, takie jak niedawna transformacja zdjęć w historie. Niestety, doprowadziło to do eksplozji tego, co niektórzy nazywają teraz „sztuczną ścieką” – masowo produkowanych, często niskiej jakości treści syntetycznych.

Grupa eksperymentuje nawet z nowymi formatami, takimi jak kanały, w których treści generowane przez sztuczną inteligencję zajmują centralne miejsce. Takie podejście radykalnie zmienia doświadczenie użytkownika, ale jednocześnie rodzi pytania o wiarygodność i czytelność rozpowszechnianych informacji.

W tej sytuacji opracowanie detektora sztucznej inteligencji wydaje się formą reakcji obronnej.

Rodzi to jednak istotne pytanie: czy to narzędzie będzie w stanie identyfikować treści z dowolnego modelu, czy tylko treści generowane przez ekosystem Meta? W praktyce wybór ten będzie miał bezpośredni wpływ na jego zasięg. Co więcej, chociaż na tym etapie nie wydano żadnego oficjalnego oświadczenia, inicjatywa ta ilustruje fundamentalny trend: po przyspieszeniu produkcji treści dzięki sztucznej inteligencji platformy starają się teraz lepiej ją identyfikować i potencjalnie odzyskać nad nią kontrolę.