Kiberbűnözők vagy egy autoriter állam kezében a mesterséges intelligencia, mint például a ChatGPT, valódi fenyegetést jelenthet az online anonimitásra és a magánéletünkre.

Vajon ez az online anonimitás vége annak köszönhetően, hogy a mesterséges intelligencia szupermagánnyomozóként működik, és képes leleplezni még a legtitkosabb internetfelhasználókat is? Az ötlet talán túlzásnak tűnhet, de e két kutató munkája bizonyítani látszik, hogy ez a valóság, nem pedig fikció. A The Guardian által közölt tanulmány szerint a kiberbűnözők egyre inkább a mesterséges intelligenciát használják a névtelen közösségi média fiókok könnyebb azonosítására. A nagyméretű nyelvi modelleknek (mint például a ChatGPT, Claude, Gemini stb.) köszönhetően lehetséges egy fiókot valódi emberhez kapcsolni, különösen az általuk megosztott információk alapján. Ez kifinomult és jövedelmező támadásokat tesz lehetővé – magyarázza Simon Lermen és Daniel Paleka, a tanulmány mögött álló két kutató, akik az online személyes információk fogalmának „alapvető” újragondolását szorgalmazzák.

Az internet átkutatására szabott mesterséges intelligencia, amely az adatok kereszthivatkozására szolgál

A felfedezéshez először két anonim fiókot integráltak egy mesterséges intelligenciába, amely a lehető legtöbb információt kérte le. A két fiók egyike (@anon_user42) az iskolai nehézségeiről és arról beszélt, hogy hajlamos sétáltatni Biscuit nevű kutyáját egy „Dolores” nevű parkban. Ezen információknak köszönhetően a mesterséges intelligencia képes volt átvizsgálni az internetet, hogy nagyfokú megbízhatósággal azonosítsa a fiók mögött álló személy kilétét.

A kutatók úgy vélik, hogy ezt a módszert könnyen kihasználhatják a hackerek, de a kormányok is, akik el akarják hallgattatni a közösségi médiában leggyakrabban névtelenül kampányoló disszidenseket. A nagy nyelvi modellek valóban gyors és rendkívül hatékony – talán túl hatékony – elemzőképességgel rendelkeznek, ami olyan információk kereszthivatkozásához vezet, amelyek veszélyeztethetik az anonimitást és súlyos biztonsági problémákat okozhatnak. Egy hacker így könnyen kiadhatja magát valaki másnak, és a mesterséges intelligencia által gyűjtött adatok felhasználásával adathalász műveletbe csábíthatja őket. Ennek a célnak az eléréséhez már nincs szükség költséges folyamatokra: mindössze egy mesterséges intelligenciára és internetkapcsolatra van szükség. Bár a tanulmány azt mutatja, hogy a mesterséges intelligencia hatékony, Peter Bentley, az UCL informatika professzora nem ért ezzel egyet. A brit média által készített interjúban elítéli azt a trendet, amely ahhoz vezethet, hogy „az embereket olyan dolgokkal vádolják, amelyeket nem tettek”. Fennáll annak a veszélye is, hogy a nagy nyelvi modellek a közösségi médián messze túlmutató nyilvános adatokra is támaszkodhatnak. Statisztikai jelentések, kórházi feljegyzések és felvételi dokumentációk is felhasználhatók.

A tanulmány elsősorban azt mutatja, hogy online, és különösen a közösségi médiában a felhasználó interakciói könnyen elvezethetik a megfigyelőket valódi kilétéhez. Ezért elengedhetetlen, hogy mindig körültekintően legyünk azzal, hogy mit csinálunk online, miközben több lépést is megteszünk a teljes anonimitás megőrzése érdekében – például egy olyan e-mail cím vagy telefonszám használatával, amely elkülönül az életünk többi részétől. A két kutató felszólítja a közösségi média platformokat, hogy korlátozzák a mesterséges intelligencia által hozzáférhető adatokhoz való hozzáférést, különösen a „kaparás” megakadályozása érdekében, amely funkciót a nyelvi modellek széles körben használnak a lehető legtöbb információ összegyűjtésére a betanításhoz.