Исследователь Google DeepMind Алекс Тёрнер уходит в отставку из-за неограниченного военного контракта Пентагона по ИИ

В недавно опубликованном длинном посте, автором которого является Алекс Тёрнер — бывший исследователь по безопасности ИИ в Google DeepMind, — говорится, что он подал в отставку в июне после того, как в апреле компания подписала военный контракт по ИИ с Министерством обороны США. Тёрнер описывает этот контракт как «неограниченный». Он подготовил 25-страничный фреймворк надзора за военным ИИ и заручился поддержкой примерно 250 сотрудников DeepMind и Google Research, предложив меры безопасности против автономного оружия и массового наблюдения. Однако Тёрнер заявил, что общение с генеральным директором DeepMind Демисом Хассабисом и другими руководителями не дало содержательного прогресса, а его предложение так и не было официально рассмотрено руководством.

Тёрнер также отметил, что положения контракта, ограничивающие автономное оружие и наблюдение, сформулированы как необязывающие. Он выразил разочарование тем, что заметные фигуры в сфере ИИ, включая главного научного сотрудника Google Джеффа Дина и лауреата премии Тьюринга Йошуа Бенджио, не предприняли достаточно действий, чтобы предотвратить подписание контракта, несмотря на прежние публичные заявления против смертоносного автономного оружия.