Umowa OpenAI z armią USA wywołała już rezygnację

Sztuczna inteligencja jest obecnie w centrum licznych debat politycznych, przemysłowych i etycznych. Wraz z integracją tych technologii z wrażliwymi obszarami, firmy z sektora muszą znaleźć równowagę między innowacyjnością, możliwościami ekonomicznymi a odpowiedzialnością społeczną. Niedawne ogłoszenie OpenAI ilustruje napięcia, jakie mogą pojawić się wewnątrz firmy. Po podpisaniu umowy z Pentagonem zezwalającej na wykorzystanie jej technologii w zastosowaniach wojskowych, jeden z dyrektorów firmy zdecydował się zrezygnować. Decyzja ta ponownie rozpala pytania o zarządzanie i ograniczenia sztucznej inteligencji w dziedzinach związanych z obronnością… Decyzja motywowana kwestiami pryncypialnymi. Caitlin Kalinowski, szefowa działu produktów sprzętowych i dyrektor działu robotyki w OpenAI, ogłosiła swoją rezygnację na LinkedIn. W swoim komunikacie wyjaśnia, że jej wybór jest bezpośrednio związany z porozumieniem zawartym z rządem USA. Według niej sztuczna inteligencja może odegrać rolę w bezpieczeństwie narodowym. Jednak niektóre z wymienionych zastosowań rodzą poważne problemy, zwłaszcza inwigilacja obywateli amerykańskich bez nadzoru sądowego lub wykorzystanie śmiercionośnych systemów autonomicznych bez ludzkiej weryfikacji. Dyrektorka naczelna zapewniła, że jej decyzja nie była skierowana przeciwko zespołom firmy ani jej prezesowi, Samowi Altmanowi. „To kwestia zasad, a nie jednostek” – stwierdziła, dodając, że ma ogromny szacunek dla kierownictwa i pracowników organizacji.

Krytykuje firmę przede wszystkim za zbyt szybkie ogłoszenie tego partnerstwa, zanim wprowadzono konkretne zabezpieczenia. Jej zdaniem te kwestie zarządzania wymagają bardziej ustrukturyzowanych ram i głębszej refleksji przed jakąkolwiek komunikacją publiczną.

Partnerstwo podpisane w obliczu rywalizacji o sztuczną inteligencję

Ta umowa między OpenAI a Pentagonem została zawarta zaledwie kilka godzin po tym, jak jej konkurent, Anthropic, odmówił podporządkowania się ultimatum rządu USA.

Władze chciały nieograniczonego dostępu do Claude'a, a odmowa firmy podobno rozgniewała Donalda Trumpa, który jest bardzo krytyczny wobec firm zajmujących się sztuczną inteligencją, które ograniczają wykorzystanie swoich technologii w celach militarnych.

W związku z tym OpenAI ostatecznie zgodziło się na współpracę z władzami USA, a w odpowiedzi na krytykę Sam Altman później wyjaśnił, że umowa została zmodyfikowana. Dodano klauzulę zakazującą celowego wykorzystywania systemów sztucznej inteligencji firmy do monitorowania obywateli amerykańskich.

Pomimo tych zmian, kontrowersje odcisnęły swoje piętno zarówno wewnątrz firmy, jak i poza nią…

Wiodąca postać w dziedzinie rzeczywistości rozszerzonej i robotyki

Zanim dołączyła do OpenAI, Caitlin Kalinowski pracowała w Meta, gdzie brała udział w rozwoju okularów rzeczywistości rozszerzonej.

W OpenAI nadzorowała projektowanie produktów sprzętowych mających ułatwiać codzienne korzystanie z generatywnej sztucznej inteligencji, szczególnie w kontekście urządzeń podłączonych do sieci.

Ta rezygnacja ilustruje dylematy, z jakimi borykają się firmy zajmujące się sztuczną inteligencją, gdy ich innowacje rozszerzają się na obszary strategiczne, takie jak obronność czy bezpieczeństwo narodowe…