Masakra w Tumbler Ridge: OpenAI wykryło profil atakującego przed masakrą, ale nie powiadomiło władz; rodzina ocalałej ofiary składa pozew

Rodzina 12-letniej Mai Gebali, która po trzech postrzeleniach będzie cierpieć na dożywotnią niepełnosprawność poznawczą i fizyczną, pozwała OpenAI po tym, jak firma przyznała, że zauważyła problematyczny profil podejrzanego i rozważała powiadomienie władz, zanim ostatecznie podjęła decyzję odmowną. W czerwcu 2025 roku OpenAI zauważyło niepokojący profil wśród użytkowników ChatGPT. Należał on do Jesse Van Rootselaar, kobiety transpłciowej mieszkającej w Tumbler Ridge w Kanadzie, której posty zostały oznaczone przez system recenzji firmy jako „promujące przemoc”. Kilku pracowników zaapelowało wówczas do kierownictwa startupu o powiadomienie kanadyjskich władz, czego jednak nie uczyniono. Osiem miesięcy później ta kobieta, pasjonatka broni, dopuściła się jednej z najgorszych masowych strzelanin w historii Kanady, strzelając do szkoły średniej, zabijając osiem osób i raniąc prawie 30. Po przyznaniu się do winy, OpenAI stoi teraz w obliczu gniewu rodziny jednej z ocalałych ofiar, która wniosła przeciwko niemu pozew, donosi Associated Press. >

Maya Gebala, 12-letnia uczennica szkoły, która stała się celem ataków Jessego Van Rootselaara, doznała urazu mózgu, który pozostawi u niej dożywotnie upośledzenie funkcji poznawczych i fizycznych po tym, jak została postrzelona trzy razy z bliskiej odległości: raz w głowę, raz w szyję i raz w... grę.

Odpowiedzialność

Jej rodzina oskarża OpenAI o brak reakcji, mimo że startup miał „dokładną wiedzę, że strzelec używał ChatGPT do planowania masowej strzelaniny podobnej do tej w Tumbler Ridge”. Oskarżają chatbota, którego Jesse Van Rootselaar używał jako powiernika, współpracownika i sojusznika, o celowe zachowanie w sposób, który pomagał użytkownikom takim jak ona planować wydarzenia skutkujące licznymi ofiarami.

18-latka w szczególności opisywała scenariusze związane z przemocą z użyciem broni palnej podczas rozmów ze sztuczną inteligencją OpenAI. Oprócz problematycznych interakcji, kobieta, która odebrała sobie życie po zabiciu ośmiu osób, stworzyła również eksperyment symulujący masową strzelaninę w Robloxie. Oprócz rodziny Mai Gebali, OpenAI musi również odpowiedzieć przed kanadyjskimi władzami, które wezwały ją po jej zeznaniach pod koniec lutego. Startup wysłał następnie list do Evana Solomona, kanadyjskiego ministra ds. sztucznej inteligencji i innowacji cyfrowych, przedstawiając środki wdrożone w celu zapobiegania ponownemu wystąpieniu takiego zdarzenia. Złagodził kryteria zgłaszania kont organom ścigania i zobowiązał się do nawiązania bezpośredniego kontaktu z kanadyjską policją, jednocześnie wzmacniając swój system wykrywania recydywistów, którzy naruszyli jego zasady. Chociaż OpenAI nie zgłosiło Jessego Van Rootselaara kanadyjskim władzom, zablokowało mu dostęp do ChatGPT, ale odkryło, że korzystał z drugiego konta... po strzelaninie w Tumbler Ridge.

Jak donosi Politico, prezes firmy, Sam Altman, rozmawiał również na początku marca z Evanem Solomonem, który poprosił go o przejrzenie alertów bezpieczeństwa z poprzedniego roku w świetle nowych przepisów, aby upewnić się, że nie pominął innych niebezpiecznych użytkowników, którzy, podobnie jak Jesse Van Rootselaar, powinni zostać zgłoszeni organom ścigania.