Более 580 сотрудников Google требуют от гендиректора заблокировать контракты Пентагона с ИИ

Сообщение Gate News, 27 апреля — Более 580 сотрудников Google подписали открытое письмо с призывом к генеральному директору Сундару Пичаи заблокировать Пентагону использование технологий искусственного интеллекта компании для военных применений. Подписанты, включая более 18 высокопоставленных сотрудников в диапазоне от руководителей (principal) и директоров до вице-президентов, ссылаются на этические опасения в связи с тем, что системы ИИ планируется задействовать при создании смертоносного полностью автономного оружия.

Письмо требует немедленного моратория на развертывание ИИ Google в военных целях, большей прозрачности в отношении действующих контрактов Пентагона и создания постоянного этического совета с представительством сотрудников для рассмотрения будущих военных партнерств. Сотрудники отдельно выразили обеспокоенность тем, что облачные вычислительные сервисы компании и инструменты машинного обучения могут использоваться для создания систем смертоносного полностью автономного оружия. “Мы хотим видеть, как ИИ приносит пользу человечеству; а не видеть, как его используют в бесчеловечных или крайне вредоносных целях”, — написали подписанты.

Эти действия последовали за тем, что Google в 2018 году вышла из проекта Maven — программы Пентагона, в рамках которой ИИ использовали для анализа видеоматериалов с дронов; сотрудники привели это как прецедент в поддержку отказа от военной работы по этическим причинам. Восстание сотрудников отражает более широкие противоречия в технологической отрасли по поводу партнерств в сфере военного ИИ, происходящие на фоне громкого противостояния между Пентагоном и Anthropic: тогда Министерство обороны два месяца назад отказалось от стартапа по разработке ИИ после того, как компания не согласилась снять контрактные ограничения на использование в рамках внутреннего наблюдения и на применение полностью автономного оружия.

Пентагон все чаще рассматривает ИИ как ключевой фактор будущих военных операций. Председатель Объединенного комитета начальников штабов генерал Дэн Кейн охарактеризовал автономное оружие как “ключевую и неотъемлемую часть всего, что мы делаем” в дальнейшем. Несмотря на спор правительства США с Anthropic, сообщается, что АНБ получило доступ к Mythos Preview — модели ИИ, которую Anthropic ограничила небольшой группой исследователей и организаций в сфере кибербезопасности.