タンブラーリッジ虐殺事件：OpenAIは虐殺前に犯人のプロフィールを検知していたが当局に通報せず、生存者の家族が訴訟を起こす

3発の銃撃を受け、生涯にわたる認知障害と身体障害を負うことになる12歳のマヤ・ゲバラちゃんの家族は、OpenAIを提訴した。同社は容疑者の問題のあるプロフィールに気づき、当局への通報を検討したが、最終的には通報を見送ったことを認めた。2025年6月、OpenAIはChatGPTユーザーの中に不穏なプロフィールがあることに気づきました。それはカナダのタンブラーリッジに住むトランスジェンダーの女性、ジェシー・ヴァン・ルーツラーさんのプロフィールで、彼女の投稿は同社の審査システムによって「暴力行為を助長する」とフラグ付けされていました。その後、数人の従業員がスタートアップ企業の経営陣に対し、カナダ当局への通報を要請しましたが、当局は対応しませんでした。 8か月後、武器への情熱を持っていたこの女性は、高校で銃を乱射し、カナダ史上最悪の銃乱射事件の一つを起こし、8人を殺害、30人近くを負傷させた。AP通信によると、OpenAIは、この事実を認めたことで、生存している被害者の1人の遺族から訴訟を起こされ、その怒りに直面している。 >

ジェシー・ヴァン・ルーツェラーの標的となった学校の12歳の生徒、マヤ・ゲバラさんは、至近距離から頭、首、そして遊びの最中に3発撃たれ、脳損傷を負い、生涯にわたる認知障害と身体障害が残ります。

説明責任

彼女の家族は、OpenAIが「犯人がChatGPTを使用してタンブラーリッジの事件と同様の大量銃乱射事件を計画していることを正確に知っていた」にもかかわらず、行動を起こさなかったと非難しています。ジェシー・ヴァン・ルーツェラー氏が親友、協力者、そして味方として利用していたこのチャットボットが、彼女のようなユーザーが多数の犠牲者を出すようなイベントを計画するのを意図的に助ける行動をとったと、彼らは非難している。

18歳の彼女は、OpenAIのAIとのやり取りの中で、銃による暴力を含むシナリオを描写していたことで注目された。問題のあるやり取りに加え、8人を殺害した後に自殺したこの女性は、ロブロックス上で銃乱射事件をシミュレートする実験も行っていた。マヤ・ゲバラさんの家族に加え、OpenAIは2月下旬の自白後に彼女を召喚したカナダ当局にも説明責任を負っている。その後、OpenAIはカナダの人工知能・デジタルイノベーション大臣であるエヴァン・ソロモン氏に書簡を送り、このような事件の再発防止策を概説した。法執行機関へのアカウント報告基準を緩和し、カナダ警察との直接連絡を確立するとともに、規則違反を繰り返した違反者を検知するシステムを強化した。 OpenAIはカナダ当局にジェシー・ヴァン・ルーツェラーを報告しなかったものの、ChatGPTから彼を追放し、タンブラーリッジ銃乱射事件後に彼が2つ目のアカウントを使用していたことを発見した。

Politicoの報道によると、同社のCEO、サム・アルトマン氏も3月上旬にエヴァン・ソロモン氏と話し、新しいルールに照らして前年の安全警告を再確認し、ジェシー・ヴァン・ルーツェラーのように法執行機関に報告すべき他の危険なユーザーを見逃していないか確認するよう依頼した。