Соглашение OpenAI с американскими военными уже привело к отставке одного из участников.

Искусственный интеллект в настоящее время находится в центре многочисленных политических, промышленных и этических дискуссий. По мере интеграции этих технологий в чувствительные области, компаниям в этом секторе необходимо соблюдать баланс между инновациями, экономическими возможностями и социальной ответственностью. Недавнее заявление OpenAI иллюстрирует напряженность, которая может возникнуть внутри компании. После подписания соглашения с Пентагоном, разрешающего использование своих технологий в военных целях, высокопоставленный руководитель компании решил уйти в отставку. Это решение вновь поднимает вопросы об управлении и ограничениях ИИ в оборонной сфере… Решение, мотивированное принципиальными соображениями. Кейтлин Калиновски, руководитель отдела аппаратных продуктов и директор подразделения робототехники в OpenAI, объявила о своей отставке в LinkedIn. В своем сообщении она объясняет, что ее выбор напрямую связан с соглашением, достигнутым с правительством США. По ее словам, искусственный интеллект может играть роль в национальной безопасности. Однако некоторые из упомянутых приложений вызывают серьезные проблемы, в частности, слежка за американскими гражданами без судебного надзора или использование смертоносных автономных систем без проверки человеком. Руководитель настаивала на том, что ее решение не было направлено против команд компании или ее генерального директора Сэма Альтмана. «Это вопрос принципа, а не отдельных лиц», — заявила она, добавив, что испытывает большое уважение к руководству и сотрудникам организации. Она критикует компанию прежде всего за то, что та слишком поспешно объявила о партнерстве, до того, как были установлены конкретные меры предосторожности. По ее мнению, эти вопросы управления требуют более структурированной системы и более тщательного обдумывания перед любым публичным сообщением.

Партнерство, подписанное на фоне соперничества в сфере ИИ

Это соглашение между OpenAI и Пентагоном было заключено всего через несколько часов после того, как ее конкурент Anthropic отказался выполнить ультиматум правительства США.

Власти хотели получить неограниченный доступ к Клоду, и отказ компании, как сообщается, разозлил Дональда Трампа, который крайне критически относится к компаниям, занимающимся ИИ, которые ограничивают военное использование своих технологий.

Таким образом, OpenAI в конечном итоге согласилась сотрудничать с властями США, и в ответ на критику Сэм Альтман позже уточнил, что соглашение было изменено. В текст был добавлен пункт, запрещающий преднамеренное использование систем искусственного интеллекта компании для слежки за американскими гражданами.

Но, несмотря на эти корректировки, скандал оставил свой след как внутри, так и за пределами компании…

Ведущая фигура в области дополненной реальности и робототехники

До прихода в OpenAI Кейтлин Калиновски работала в Meta, где участвовала в разработке очков дополненной реальности.

В OpenAI она курировала разработку аппаратных продуктов, предназначенных для облегчения повседневного использования генеративного ИИ, особенно в контексте подключенных устройств.

Эта отставка иллюстрирует дилеммы, с которыми сталкиваются компании, занимающиеся ИИ, когда их инновации распространяются на стратегические области, такие как оборона или национальная безопасность…