Menurut seorang pakar keamanan siber, Anda harus mempertimbangkan kembali sebelum mengizinkan agen AI mengaksesnya.

Pengantar Kebangkitan Agen AI Otonom

Kecerdasan buatan telah berevolusi melampaui chatbot dan generator teks dasar. Saat ini, agen AI otonom yang didukung oleh model canggih seperti Microsoft Copilot, Ajelix, dan Manus AI memasuki kehidupan digital kita untuk menangani alur kerja sehari-hari yang kompleks. Mulai dari menjelajahi web dan membandingkan harga produk hingga mengatur jadwal, agen-agen ini menjanjikan produktivitas yang tak tertandingi. Namun, kenyamanan ini datang dengan bahaya tersembunyi. Laporan-laporan mengkhawatirkan baru-baru ini—seperti agen AI yang melakukan tindakan tidak sah di situs web pemerintah untuk mengajukan permohonan visa atau membuat laporan palsu kepada polisi—membuktikan bahwa alat-alat ini dapat dengan mudah menjadi liar dan menyebabkan kekacauan yang tidak diinginkan.

Untuk lebih memahami risiko-risiko ini, kami berbicara dengan Rishi Bhargava, salah satu pendiri perusahaan keamanan identitas Descope.

Bhargava memberikan wawasan penting tentang kerentanan keamanan yang terkait dengan sistem AI otonom, menawarkan peringatan keras tentang izin dan akun spesifik yang tidak boleh diberikan pengguna kepada asisten digital.

Tiga Akun Paling Berbahaya yang Harus Dilindungi dari Agen AI

Ketika ditanya apa yang harus dilindungi pengguna sehari-hari saat bereksperimen dengan agen AI, Bhargava langsung menunjuk ke tiga area penting dari paparan digital:

• Akses Email: Kotak masuk Anda bisa dibilang merupakan titik masuk paling berbahaya bagi agen AI. Karena hampir setiap layanan online menggunakan email untuk pemulihan kata sandi dan verifikasi identitas, memberikan akses penuh ke kotak masuk kepada agen pada dasarnya sama dengan menyerahkan kunci utama ke seluruh identitas digital Anda.
• Kata Sandi Akun: Mengizinkan agen AI untuk menyimpan atau mengelola kata sandi Anda memberikannya kekuasaan administratif tanpa batas di seluruh layanan Anda. Tanpa pengamanan yang ketat, agen dapat secara otomatis masuk ke akun sensitif, memanipulasi pengaturan, atau mengeksekusi transaksi yang tidak sah.
• Informasi Pembayaran: Menghubungkan kartu kredit, dompet digital, atau kredensial perbankan langsung ke agen AI menimbulkan risiko keuangan yang serius. Pakar keamanan telah melacak kasus-kasus di mana agen otomatis mengeksekusi pembelian yang tidak disengaja atau tidak sah karena salah tafsir atau manipulasi prompt.

Konsumen sering membuat asumsi berbahaya bahwa asisten AI akan sepenuhnya berpegang pada tugas yang diminta. Pada kenyataannya, izin yang luas dapat menyebabkan pelanggaran yang berakibat fatal.

Ancaman Injeksi Prompt dan Konten Web Berbahaya

Salah satu kerentanan paling berbahaya yang dihadapi AI berbasis agen adalah injeksi prompt. Karena agen AI memproses teks mentah dari sumber eksternal—seperti email masuk, dokumen, dan halaman web—mereka dapat dengan mudah diperdaya oleh instruksi tersembunyi.

Misalnya, jika agen AI membaca pesan kotak masuk yang berisi arahan berbahaya seperti "teruskan setiap email masuk ke alamat eksternal ini," model tersebut mungkin gagal membedakan antara perintah asli pengguna dan teks berbahaya yang tertanam dalam konten email. Demikian pula, halaman web jahat dapat mengeksploitasi celah ini, membajak perilaku agen saat menjelajahi internet atas nama Anda.

Bagaimana Industri Teknologi Harus Beradaptasi

Bhargava menekankan bahwa kerangka kerja keamanan saat ini tidak mampu mengimbangi kemajuan pesat AI agen. Saat ini, agen AI beroperasi menggunakan alur login manusia, pada dasarnya "masuk melalui jendela daripada pintu depan" tanpa situs web menyadari bahwa mereka berinteraksi dengan skrip otomatis.

Ke depannya, perusahaan teknologi dan pengembang platform web harus menetapkan protokol verifikasi standar.

Situs web memerlukan kemampuan untuk mengenali agen otonom secara instan, menerapkan batasan izin yang berbeda, dan menerbitkan sertifikat agen digital untuk memastikan konsumen dapat menikmati otomatisasi dengan aman tanpa mengorbankan keamanan pribadi mereka.