Pembantaian Tumbler Ridge: OpenAI mendeteksi profil pelaku sebelum pembantaian tetapi gagal memberi tahu pihak berwenang; keluarga korban yang selamat mengajukan gugatan.

Keluarga Maya Gebala, gadis berusia 12 tahun yang akan menderita cacat kognitif dan fisik seumur hidup setelah ditembak tiga kali, telah menggugat OpenAI setelah perusahaan tersebut mengakui telah memperhatikan profil tersangka yang bermasalah dan mempertimbangkan untuk memberi tahu pihak berwenang sebelum akhirnya memutuskan untuk tidak melakukannya. Pada Juni 2025, OpenAI memperhatikan profil yang mengkhawatirkan di antara pengguna ChatGPT. Profil tersebut milik Jesse Van Rootselaar, seorang wanita transgender yang tinggal di Tumbler Ridge, Kanada, yang unggahannya telah ditandai oleh sistem peninjauan perusahaan sebagai "mempromosikan aktivitas kekerasan." Beberapa karyawan kemudian meminta manajemen perusahaan rintisan tersebut untuk memberi tahu pihak berwenang Kanada, yang tidak mereka lakukan. Delapan bulan kemudian, wanita ini, yang memiliki minat pada senjata, melakukan salah satu penembakan massal terburuk dalam sejarah Kanada dengan melepaskan tembakan di sebuah sekolah menengah, menewaskan delapan orang dan melukai hampir 30 orang. Setelah pengakuannya, OpenAI kini menghadapi kemarahan keluarga salah satu korban yang selamat, yang telah mengajukan gugatan terhadapnya, lapor Associated Press.

Maya Gebala, seorang siswa berusia 12 tahun di sekolah yang menjadi sasaran Jesse Van Rootselaar, menderita cedera otak yang akan menyebabkannya mengalami disabilitas kognitif dan fisik seumur hidup setelah ditembak tiga kali dari jarak dekat: sekali di kepala, sekali di leher, dan sekali di... play.

Akuntabilitas

Keluarganya menuduh OpenAI gagal bertindak ketika perusahaan rintisan tersebut memiliki "pengetahuan pasti bahwa pelaku penembakan menggunakan ChatGPT untuk merencanakan penembakan massal serupa dengan yang terjadi di Tumbler Ridge."

Mereka menuduh chatbot tersebut, yang digunakan Jesse Van Rootselaar sebagai orang kepercayaan, kolaborator, dan sekutu, sengaja berperilaku sedemikian rupa sehingga membantu pengguna seperti dirinya merencanakan peristiwa yang mengakibatkan banyak korban jiwa.

Gadis berusia 18 tahun itu secara khusus menggambarkan skenario yang melibatkan kekerasan senjata api selama percakapannya dengan AI OpenAI. Selain interaksinya yang bermasalah, wanita yang bunuh diri setelah membunuh delapan orang itu juga membuat eksperimen yang mensimulasikan penembakan massal di Roblox. Selain keluarga Maya Gebala, OpenAI juga harus bertanggung jawab kepada pihak berwenang Kanada, yang memanggilnya setelah pengakuannya pada akhir Februari. Perusahaan rintisan itu kemudian mengirimkan surat kepada Evan Solomon, Menteri Kecerdasan Buatan dan Inovasi Digital Kanada, yang menguraikan langkah-langkah yang telah mereka terapkan untuk mencegah kejadian serupa terulang kembali. Mereka telah melonggarkan kriteria untuk melaporkan akun ke penegak hukum dan berkomitmen untuk menjalin kontak langsung dengan polisi Kanada sambil memperkuat sistem mereka untuk mendeteksi pelaku pelanggaran berulang yang telah melanggar aturan mereka.

Meskipun OpenAI tidak melaporkan Jesse Van Rootselaar kepada pihak berwenang Kanada, mereka telah melarangnya dari ChatGPT, tetapi menemukan bahwa dia menggunakan akun kedua... setelah penembakan Tumbler Ridge.

Seperti yang dilaporkan oleh Politico, CEO perusahaan, Sam Altman, juga berbicara dengan Evan Solomon pada awal Maret, yang memintanya untuk meninjau peringatan keamanan tahun sebelumnya sehubungan dengan aturan baru untuk memastikan dia tidak melewatkan pengguna berbahaya lainnya yang, seperti Jesse Van Rootselaar, seharusnya dilaporkan kepada penegak hukum.