Tumbler Ridge katliamı: OpenAI, saldırganın profilini katliamdan önce tespit etti ancak yetkilileri uyarmadı; hayatta kalan bir kurbanın ailesi dava açtı.

Üç kurşunla vurulduktan sonra ömür boyu bilişsel ve fiziksel engellere maruz kalacak olan 12 yaşındaki Maya Gebala'nın ailesi, şirketin şüphelinin sorunlu profilini fark ettiğini ve yetkilileri uyarmayı düşündüğünü ancak sonunda bundan vazgeçtiğini itiraf etmesinin ardından OpenAI'ye dava açtı. Haziran 2025'te OpenAI, ChatGPT kullanıcıları arasında rahatsız edici bir profil fark etti. Bu profil, Kanada'nın Tumbler Ridge kentinde yaşayan trans bir kadın olan Jesse Van Rootselaar'a aitti ve şirketin inceleme sistemi tarafından "şiddet içeren faaliyetleri teşvik eden" olarak işaretlenmişti. Birkaç çalışan daha sonra şirketin yönetimine Kanada yetkililerini bilgilendirmeleri çağrısında bulundu, ancak bunu yapmadılar. Sekiz ay sonra, silahlara tutkusu olan bu kadın, bir lisede ateş açarak Kanada tarihinin en kötü toplu katliamlarından birini gerçekleştirdi, sekiz kişiyi öldürdü ve yaklaşık 30 kişiyi yaraladı. Associated Press'in haberine göre, OpenAI, itirafının ardından, hayatta kalan kurbanlardan birinin ailesinin öfkesiyle karşı karşıya kaldı ve aile şirkete dava açtı. >

Jesse Van Rootselaar'ın hedef aldığı okulda okuyan 12 yaşındaki öğrenci Maya Gebala, yakın mesafeden üç kez vurulduktan sonra (bir kez kafasına, bir kez boynuna ve bir kez de... oyuna) ömür boyu bilişsel ve fiziksel engellere yol açacak bir beyin hasarı geçirdi.

Hesap Verebilirlik

Ailesi, OpenAI'yi, "saldırganın ChatGPT'yi Tumbler Ridge'deki gibi bir toplu katliam planlamak için kullandığına dair kesin bilgiye sahip olduğu" halde harekete geçmemekle suçluyor. Jesse Van Rootselaar'ın sırdaşı, işbirlikçisi ve müttefiki olarak kullandığı chatbot'un, kendisi gibi kullanıcıların çok sayıda can kaybına yol açan olayları planlamasına yardımcı olacak şekilde kasıtlı olarak davrandığı iddia ediliyor. 18 yaşındaki genç kadın, OpenAI'nin yapay zekasıyla yaptığı görüşmelerde özellikle silahlı şiddet içeren senaryoları anlatmıştı. Sorunlu etkileşimlerine ek olarak, sekiz kişiyi öldürdükten sonra intihar eden kadın, Roblox'ta toplu bir silahlı saldırıyı simüle eden bir deney de oluşturmuştu. Maya Gebala'nın ailesinin yanı sıra, OpenAI'nin Şubat ayı sonlarında itirafının ardından kendisini çağıran Kanada yetkililerine de hesap vermesi gerekiyor. Girişim daha sonra Kanada Yapay Zeka ve Dijital İnovasyon Bakanı Evan Solomon'a, bu tür bir olayın tekrarını önlemek için uyguladığı önlemleri özetleyen bir mektup gönderdi. Hesapların kolluk kuvvetlerine bildirilmesi kriterlerini gevşetti ve kurallarını ihlal eden tekrar eden suçluları tespit etme sistemini güçlendirirken Kanada polisiyle doğrudan temas kurmayı taahhüt etti. OpenAI, Jesse Van Rootselaar'ı Kanada yetkililerine bildirmemiş olsa da, onu ChatGPT'den yasaklamıştı; ancak Tumbler Ridge saldırısından sonra ikinci bir hesap kullandığını keşfetti.

Politico'nun bildirdiğine göre, şirketin CEO'su Sam Altman, Mart ayı başlarında Evan Solomon ile de görüştü ve Solomon, Altman'dan, Jesse Van Rootselaar gibi kolluk kuvvetlerine bildirilmesi gereken diğer tehlikeli kullanıcıları kaçırmadığından emin olmak için önceki yılın güvenlik uyarılarını yeni kurallar ışığında gözden geçirmesini istedi.