Dohoda OpenAI s americkou armádou již vyvolala rezignaci.

Umělá inteligence je v současnosti ústředním tématem mnoha politických, průmyslových a etických debat. Vzhledem k tomu, že se tyto technologie integrují do citlivých oblastí, musí společnosti v tomto odvětví vyvažovat inovace, ekonomické příležitosti a společenskou odpovědnost. Nedávné oznámení společnosti OpenAI ilustruje napětí, které může uvnitř společnosti vzniknout. Poté, co podepsal dohodu s Pentagonem, která umožní použití jejích technologií ve vojenských aplikacích, se jeden z vedoucích pracovníků společnosti rozhodl rezignovat. Toto rozhodnutí znovu vyvolává otázky ohledně správy a limitů umělé inteligence v oblastech souvisejících s obranou… Rozhodnutí motivované principiálními otázkami. Caitlin Kalinowski, vedoucí hardwarových produktů a ředitelka divize robotiky ve společnosti OpenAI, oznámila svou rezignaci na LinkedIn. Ve své zprávě vysvětluje, že její volba přímo souvisí s dohodou dosaženou s vládou USA. Podle ní může umělá inteligence hrát roli v národní bezpečnosti. Některé ze zmíněných aplikací však vyvolávají závažné problémy, zejména sledování amerických občanů bez soudního dohledu nebo používání smrtících autonomních systémů bez lidského ověření. Vedoucí pracovník trvala na tom, že **její rozhodnutí nebylo namířeno proti týmům společnosti ani proti jejímu generálnímu řediteli**, Samu Altmanovi. „**Jedná se o princip, nikoli o jednotlivce**,“ uvedla a dodala, že má velký respekt k vedení a zaměstnancům organizace. **Především kritizuje společnost za to, že toto partnerství oznámila příliš rychle, **než byla zavedena konkrétní ochranná opatření**. Podle ní tyto otázky správy a řízení vyžadují strukturovanější rámec a více reflexe před jakoukoli veřejnou komunikací.

Partnerství podepsané uprostřed rivality v oblasti umělé inteligence

Tato dohoda mezi OpenAI a Pentagonem byla uzavřena jen několik hodin poté, co její konkurent Anthropic odmítl vyhovět ultimátu americké vlády.

Úřady chtěly neomezený přístup ke Claudeovi a odmítnutí společnosti údajně rozzlobilo Donalda Trumpa, který je velmi kritický vůči společnostem zabývajícím se umělou inteligencí, které omezují vojenské využití jejich technologií.

OpenAI proto nakonec souhlasila se spoluprací s americkými úřady a v reakci na kritiku Sam Altman později objasnil, že dohoda byla upravena. Byla přidána klauzule zakazující úmyslné používání systémů umělé inteligence společnosti k monitorování amerických občanů.

Navzdory těmto úpravám však kontroverze zanechala stopy jak uvnitř, tak i vně společnosti…

Přední osobnost v oblasti rozšířené reality a robotiky

Před nástupem do OpenAI pracovala Caitlin Kalinowski ve společnosti Meta, kde se podílela na vývoji brýlí pro rozšířenou realitu.

V OpenAI dohlížela na návrh hardwarových produktů určených k usnadnění každodenního používání generativní umělé inteligence, zejména v kontextu připojených zařízení.

Tato rezignace ilustruje dilemata, kterým čelí společnosti zabývající se umělou inteligencí, když se jejich inovace rozšíří do strategických oblastí, jako je obrana nebo národní bezpečnost…