Президент Дональд Трамп во вторник подписал указ, направленный на укрепление кибербезопасности США с помощью передовых инструментов искусственного интеллекта, а также на расширение сотрудничества между федеральными ведомствами и ведущими компаниями в сфере ИИ. Указ под названием «Promoting Advanced Artificial Intelligence Innovation and Security» («Содействие инновациям и безопасности в области передового ИИ») устанавливает добровольную рамочную модель для выявления и проверки мощных моделей ИИ перед более широким выпуском: разработчики смогут подавать модели в правительство для оценки в течение до 30 дней, прежде чем выпускать их доверенным партнёрам. Этот шаг учитывает вопросы национальной безопасности, возникающие на фоне развития возможностей ИИ, при этом стремясь сохранить технологическое преимущество Америки. Подписание последовало спустя недели после того, как Трамп в мае отложил похожее предложение, заявив, что некоторые его положения могут замедлить развитие ИИ в США и ослабить позиции Америки в конкуренции с Китаем.
Указ: добровольный процесс проверки моделей ИИ
Указ предписывает ведомствам ускорить использование кибербезопасностных инструментов на базе ИИ, создать «кибербезопасностное хранилище» (clearinghouse) по ИИ и выстроить процесс для выявления передовых моделей ИИ. В указе говорится, что «возможности передового ИИ делают нашу страну сильнее, но также вводят новые соображения национальной безопасности, которые требуют скоординированных действий между исполнительными департаментами и ведомствами (agencies) и структурными подразделениями».
Ведомства создадут засекреченный процесс проверки, в рамках которого Агентство национальной безопасности США (NSA) определит, соответствуют ли передовые системы ИИ критериям покрываемых «фронтирных» (frontier) моделей. Разработчики смогут добровольно предоставлять эти модели правительству для оценки в течение до 30 дней, прежде чем они планируют выпустить такие модели другим доверенным партнёрам.
Указ стремится успокоить разработчиков ИИ, что новая рамка не создаст формального процесса одобрения для выпуска новых моделей. Документ появляется на фоне того, что Трамп пытается сформировать федеральную нормативную базу вокруг ИИ, тогда как всё большее число штатов продвигаются со своим собственным законодательством.
Трамп отложил похожий указ в мае из-за опасений по конкуренции с Китаем
В мае Трамп отложил подписание аналогичного исполнительного указа, заявив, что отдельные части предложения могут замедлить развитие ИИ в США и ослабить позицию Америки в её конкуренции с Китаем. Подписание во вторник отражает попытку администрации найти баланс между надзором за национальной безопасностью и сохранением технологического лидерства США.
Public Citizen критикует добровольную рамку как недостаточную
Критики исполнительного указа Трампа говорят, что рамка слишком сильно опирается на добровольное сотрудничество со стороны компаний ИИ, за которыми она призвана наблюдать. Дж.Б. Бранч (J.B. Branch), советник по вопросам управления ИИ и технологической политики в некоммерческой организации Public Citizen, занимающейся защитой прав потребителей, заявил в официальном сообщении: «Модели, достаточно мощные, чтобы угрожать кибербезопасности и национальной безопасности, требуют реального надзора. Конгресс и администрация должны принять всеобъемлющее федеральное законодательство об ИИ с поддающимися исполнению гарантиями, требованиями к прозрачности, независимым тестированием и значимыми защитами для работников, потребителей, детей и гражданских прав».
Claude Mythos от Anthropic: мифос-модель подняла вопросы по кибербезопасности в апреле
Попытка подготовить исполнительный указ, ориентированный на ИИ, набрала обороты после опасений вокруг модели Claude Mythos от Anthropic, которая продемонстрировала способность выявлять уязвимости в ПО и вызвала вопросы у чиновников о последствиях для национальной безопасности всё более способных моделей ИИ.
В апреле, после раскрытия Mythos, министр финансов США Скотт Бессент (Scott Bessent) и затем председатель Федеральной резервной системы Джером Пауэлл (Jerome Powell), как сообщается, организовали встречу с руководителями крупнейших банков Уолл-стрит, предупреждая о рисках кибербезопасности, связанных с новой моделью искусственного интеллекта.
Несмотря на эти опасения, Anthropic продолжила наращивать ограниченный доступ к Mythos. Во вторник разработчик Claude AI заявил, что расширяет доступ к своей модели Claude Mythos через Project Glasswing — программу, призванную позволить компаниям в сфере технологий и безопасности, а также правительствам выявлять и устранять потенциальные эксплойты до публичного запуска мощной модели; при этом компания намекала на прошлой неделе, что это будет «в ближайшие недели».
Указ требует усиления уголовного преследования за незаконное использование ИИ
Указ предусматривает более жёсткое обеспечение соблюдения закона в отношении уголовных случаев использования ИИ, включая проникновение в любые публичные или частные системы информационных технологий, или «использование агентов ИИ для незаконного доступа к данным или информации, которые затем применяются в уголовных или незаконных целях».
В прошлом месяце федеральные прокуроры предъявили обвинения двум мужчинам за использование ИИ для создания и распространения сексуально откровенных изображений женщин без их согласия — это стало одним из первых крупных действий по принудительному исполнению нового закона Take It Down Act.
FAQ
Что президент Трамп сделал в рамках указа об ИИ во вторник?
Во вторник президент Трамп подписал исполнительный указ под названием «Promoting Advanced Artificial Intelligence Innovation and Security», который устанавливает добровольную рамку для разработчиков ИИ: они смогут передавать в правительство мощные модели ИИ для оценки в течение до 30 дней, прежде чем выпускать их доверенным партнёрам. Указ поручает федеральным ведомствам ускорить использование инструментов кибербезопасности на базе ИИ и учреждает засекреченный процесс проверки, в рамках которого Агентство национальной безопасности США будет определять, соответствуют ли передовые системы ИИ критериям покрываемых «фронтирных» моделей.
Почему Трамп отложил подписание похожего указа об ИИ в мае?
В мае Трамп отложил подписание аналогичного исполнительного указа, заявив, что отдельные части предложения могут замедлить развитие ИИ в США и ослабить позицию Америки в её конкуренции с Китаем. Подписание во вторник представляет собой пересмотренный подход, нацеленный на баланс между надзором за национальной безопасностью и сохранением технологического лидерства США в области искусственного интеллекта.
Какую роль в исполнительном указе сыграла модель Claude Mythos от Anthropic?
Попытка подготовить исполнительный указ, ориентированный на ИИ, набрала обороты после опасений вокруг модели Claude Mythos от Anthropic, которая продемонстрировала способность выявлять уязвимости в ПО и вызвала вопросы у чиновников о последствиях для национальной безопасности всё более способных моделей ИИ. В апреле, после раскрытия Mythos, министр финансов США Скотт Бессент (Scott Bessent) и затем председатель Федеральной резервной системы Джером Пауэлл (Jerome Powell), как сообщается, созвали встречу с руководителями банков Уолл-стрит, предупредив о рисках кибербезопасности, связанных с новой моделью искусственного интеллекта.
