Masakr v Tumbler Ridge: OpenAI detekovala profil útočníka před masakrem, ale neupozornila úřady; rodina přeživší oběti podává žalobu

Rodina dvanáctileté Mayi Gebalové, která bude po třech postřelených střelách trpět celoživotním kognitivním a fyzickým postižením, zažalovala společnost OpenAI poté, co společnost přiznala, že si všimla problematického profilu podezřelé a zvažovala upozornění úřadů, než se nakonec rozhodla proti němu. V červnu 2025 si společnost OpenAI všimla znepokojivého profilu mezi uživateli ChatGPT. Patřil Jesse Van Rootselaarové, transgender ženě žijící v Tumbler Ridge v Kanadě, jejíž příspěvky byly kontrolním systémem společnosti označeny jako „podporující násilnou činnost“. Několik zaměstnanců poté vyzvalo vedení startupu, aby informovalo kanadské úřady, což neudělaly. O osm měsíců později tato žena, která měla vášeň pro zbraně, spáchala jednu z nejhorších masových střeleb v kanadské historii, když zahájila palbu na střední škole, při níž zabila osm lidí a zranila téměř 30. Po svém přiznání nyní OpenAI čelí hněvu rodiny jedné z přeživších obětí, která na ni podala žalobu, informuje Associated Press. >

Maya Gebala, dvanáctiletá studentka školy, na kterou se zaměřil Jesse Van Rootselaar, utrpěla poranění mozku, které jí zanechá doživotní kognitivní a fyzické postižení poté, co byla třikrát zblízka postřelena: jednou do hlavy, jednou do krku a jednou do... hry.

Odpovědnost

Její rodina obviňuje OpenAI z nečinnosti, když startup měl „přesnou informaci, že střelec používá ChatGPT k plánování masové střelby podobné té v Tumbler Ridge“. Obviňují chatbota, kterého Jesse Van Rootselaar používal jako důvěrníka, spolupracovníka a spojence, že se úmyslně choval způsobem, který pomáhal uživatelům, jako je ona, plánovat akce vedoucí k četným obětem.

Osmnáctiletá dívka během komunikace s umělou inteligencí OpenAI popsala scénáře zahrnující násilí se střelnými zbraněmi. Kromě problematických interakcí žena, která si vzala život poté, co zabila osm lidí, také vytvořila experiment simulující masovou střelbu na Robloxu. Kromě rodiny Mayi Gebalové se OpenAI musí zodpovídat i kanadským úřadům, které ji předvolaly po jejím doznání na konci února. Startup následně zaslal dopis Evanu Solomonovi, kanadskému ministrovi pro umělou inteligenci a digitální inovace, v němž nastínil opatření, která zavedl, aby se zabránilo opakování takové události. Startup zmírnil kritéria pro hlášení účtů orgánům činným v trestním řízení a zavázal se k navázání přímého kontaktu s kanadskou policií a zároveň posílil svůj systém pro odhalování recidivistů, kteří porušili jeho pravidla. Ačkoli OpenAI nenahlásila Jesseho Van Rootselaara kanadským úřadům, zakázala mu přístup k ChatGPT, ale zjistila, že používá druhý účet... po střelbě v Tumbler Ridge.

Jak uvádí Politico, generální ředitel společnosti Sam Altman hovořil začátkem března také s Evanem Solomonem, který ho požádal, aby s ohledem na nová pravidla přezkoumal bezpečnostní upozornění z předchozího roku, aby se ujistil, že nepřehlédl další nebezpečné uživatele, kteří, stejně jako Jesse Van Rootselaar, měli být nahlášeni orgánům činným v trestním řízení.