W rękach cyberprzestępców lub państwa autorytarnego sztuczna inteligencja, taka jak ChatGPT, może stać się realnym zagrożeniem dla anonimowości w sieci i naszej prywatności.

Czy to koniec anonimowości w sieci dzięki sztucznej inteligencji działającej jak superprywatny detektyw, zdolny do zdemaskowania nawet najbardziej skrytych użytkowników internetu? Pomysł może wydawać się naciągany, ale praca tych dwóch badaczy zdaje się dowodzić, że to rzeczywistość, a nie fantazja. Badanie opublikowane przez The Guardian ujawnia, że cyberprzestępcy coraz częściej wykorzystują sztuczną inteligencję do łatwiejszej identyfikacji anonimowych kont w mediach społecznościowych. Dzięki rozbudowanym modelom językowym (takim jak ChatGPT, Claude, Gemini itp.) możliwe jest powiązanie konta z prawdziwym człowiekiem, w szczególności na podstawie udostępnianych przez niego informacji. Umożliwia to przeprowadzanie wyrafinowanych i dochodowych ataków, wyjaśniają Simon Lermen i Daniel Paleka, dwaj badacze stojący za tym badaniem. którzy wzywają do „fundamentalnego” ponownego rozważenia tego, co uważamy za prywatne informacje w Internecie.

Sztuczna inteligencja dostosowana do przeszukiwania sieci, zaprojektowana do wzajemnego odsyłania danych

Aby dokonać tego odkrycia, najpierw zintegrowali dwa anonimowe konta ze sztuczną inteligencją, która miała pobrać jak najwięcej informacji. Jedno z dwóch kont (@anon_user42) opowiadało o swoich trudnościach w szkole i tendencji do spacerowania z psem Biscuitem w parku o nazwie „Dolores”. Dzięki tym informacjom sztuczna inteligencja była w stanie przeskanować sieć, aby z dużym prawdopodobieństwem ustalić tożsamość osoby stojącej za kontem.

Naukowcy uważają, że ta metoda może być łatwo wykorzystana przez hakerów, ale także przez rządy chcące uciszyć dysydentów, którzy najczęściej prowadzą anonimowe kampanie w mediach społecznościowych. Duże modele językowe rzeczywiście mają szybką i wysoce wydajną zdolność analityczną – być może zbyt wydajną – co prowadzi do wzajemnego odsyłania informacji, co może naruszyć anonimowość i spowodować poważne problemy z bezpieczeństwem. Haker mógłby zatem łatwo podszyć się pod inną osobę i wciągnąć ją w operację phishingową, wykorzystując dane zebrane przez sztuczną inteligencję. Kosztowne procesy nie są już potrzebne do osiągnięcia tego celu: wystarczą sztuczna inteligencja i połączenie internetowe. Chociaż badanie pokazuje skuteczność sztucznej inteligencji, Peter Bentley, profesor informatyki na UCL, nie zgadza się z tym. W wywiadzie dla brytyjskich mediów potępia trend, który może prowadzić do „oskarżania ludzi o rzeczy, których nie zrobili”. Istnieje również ryzyko, że duże modele językowe mogłyby opierać się na danych publicznych wykraczających poza media społecznościowe. Mogłyby być wykorzystywane raporty statystyczne, dokumentacja szpitalna i rejestry przyjęć.

Badanie pokazuje przede wszystkim, że sposób interakcji użytkownika w Internecie, a zwłaszcza w mediach społecznościowych, może łatwo doprowadzić obserwatorów do odkrycia jego prawdziwej tożsamości. Dlatego niezwykle ważne jest, aby zawsze zachować ostrożność w tym, co się robi w Internecie, podejmując jednocześnie szereg kroków w celu zachowania całkowitej anonimowości – na przykład poprzez używanie adresu e-mail lub numeru telefonu oddzielonego od reszty swojego życia. Obaj badacze apelują do platform mediów społecznościowych o ograniczenie dostępu do danych, do których ma dostęp sztuczna inteligencja, w szczególności w celu zapobiegania „scrapingowi”, czyli funkcji powszechnie stosowanej przez modele językowe w celu zebrania jak największej ilości informacji na potrzeby szkolenia.