Di tangan penjahat siber atau negara otoriter, AI, seperti ChatGPT, dapat menjadi ancaman nyata bagi anonimitas daring dan privasi kita.

Apakah ini akhir dari anonimitas online berkat AI yang bertindak sebagai detektif swasta super yang mampu mengungkap identitas bahkan pengguna internet yang paling tertutup? Gagasan ini mungkin tampak mengada-ada, tetapi karya kedua peneliti ini tampaknya membuktikan bahwa itu adalah kenyataan, bukan fantasi.

Sebuah studi yang dilaporkan oleh The Guardian mengungkapkan bahwa penjahat siber semakin banyak menggunakan kecerdasan buatan untuk lebih mudah mengidentifikasi akun media sosial anonim. Berkat model bahasa yang besar (seperti ChatGPT, Claude, Gemini, dll.), dimungkinkan untuk menghubungkan sebuah akun dengan manusia sungguhan, terutama berdasarkan informasi yang mereka bagikan. Hal ini memungkinkan serangan yang canggih dan menguntungkan, jelas Simon Lermen dan Daniel Paleka, dua peneliti di balik studi tersebut, yang menyerukan pertimbangan ulang "mendasar" tentang apa yang kita anggap sebagai informasi pribadi secara online.

AI yang dirancang untuk menjelajahi web, dirancang untuk melakukan referensi silang data

Untuk membuat penemuan ini, mereka pertama-tama mengintegrasikan dua akun anonim ke dalam AI, dan membiarkannya mengambil informasi sebanyak mungkin.

Salah satu dari dua akun (@anon_user42) berbicara tentang kesulitan yang dialaminya di sekolah dan kebiasaannya mengajak anjingnya, Biscuit, berjalan-jalan di taman bernama "Dolores." Berkat informasi ini, AI kemudian dapat memindai web untuk memberikan identitas orang di balik akun tersebut dengan tingkat kepercayaan yang tinggi.

Para peneliti percaya bahwa metode ini dapat dengan mudah dieksploitasi oleh peretas, tetapi juga oleh pemerintah yang ingin membungkam para pembangkang yang paling sering berkampanye secara anonim di media sosial. Model bahasa yang besar memang memiliki kapasitas analitis yang cepat dan sangat efisien—mungkin terlalu efisien—yang menyebabkan rujukan silang informasi yang dapat membahayakan anonimitas dan menyebabkan masalah keamanan yang serius. Dengan demikian, peretas dapat dengan mudah menyamar sebagai orang lain dan memancing mereka ke dalam operasi phishing menggunakan detail yang dikumpulkan oleh AI. Proses yang mahal tidak lagi diperlukan untuk mencapai tujuan ini: AI dan koneksi internet adalah semua yang dibutuhkan. Meskipun penelitian menunjukkan bahwa kecerdasan buatan efektif, Peter Bentley, seorang profesor ilmu informasi di UCL, tidak setuju.

Dalam wawancara dengan media Inggris, ia mengecam tren yang dapat menyebabkan "orang dituduh melakukan hal-hal yang tidak mereka lakukan." Ada juga risiko bahwa model bahasa yang besar dapat bergantung pada data publik yang jauh melampaui media sosial. Laporan statistik, catatan rumah sakit, dan catatan penerimaan pasien dapat digunakan.

Studi ini terutama menunjukkan bahwa secara online, dan khususnya di media sosial, cara pengguna berinteraksi dapat dengan mudah mengarahkan pengamat ke identitas asli mereka. Oleh karena itu, sangat penting untuk selalu berhati-hati dengan apa yang Anda lakukan secara online, sambil mengambil beberapa langkah untuk menjaga anonimitas sepenuhnya—misalnya, dengan menggunakan alamat email atau nomor telepon yang terpisah dari bagian lain kehidupan Anda. Kedua peneliti tersebut menyerukan kepada platform media sosial untuk membatasi akses ke data yang dapat diakses AI, khususnya untuk mencegah "scraping," fitur yang banyak digunakan oleh model bahasa untuk mengumpulkan informasi sebanyak mungkin untuk pelatihan.