唐納·川普總統週二簽署了一項行政命令，目標是以先進的人工智慧工具強化美國的資安，同時擴大聯邦機關與領先 AI 公司之間的合作。該命令名為「推動先進人工智慧創新與安全」，建立一個自願性的框架，用於在更廣泛發布前識別並審查強大的 AI 模型；開發者可在釋出給可信合作夥伴之前，將模型提交政府以供評估，時間最多可達 30 天。此舉在考量國家安全的同時，回應不斷演進的 AI 能力所帶來的變化，並力圖維持美國的科技優勢。此次簽署發生在川普於 5 月延後類似提案數週之後；當時他表示該提案的部分內容可能會拖慢美國的 AI 發展，並削弱美國在與中國競爭中的地位。
行政命令建立自願性的 AI 模型審查流程
該行政命令指示各機關加速使用由 AI 驅動的資安工具，建立 AI 資安清算中心（clearinghouse），並建立一套用於識別先進 AI 模型的流程。該命令指出：「先進的 AI 能力讓我們的國家更強，但也引入新的國家安全考量，這需要跨越行政部門與機關（agencies）以及各組成單位的協調行動。」
各機關將建立一個機密審查流程；在此流程下，美國國家安全局（National Security Agency）將判斷先進 AI 系統是否符合所謂的「受涵蓋前沿模型（covered frontier models）」資格。開發者可在計劃將這些模型釋出給其他可信合作夥伴之前，自願向政府提供該等模型，供政府在最多 30 天的期間內進行評估。
該行政命令旨在安撫 AI 開發者：新的框架不會為釋出新模型建立正式的核准流程。此命令出爐之際，川普正試圖在全國層面建立一套 AI 的聯邦監管架構，因為越來越多的州正推進自身的立法。
川普因擔憂與中國競爭而在 5 月延後類似命令
在 5 月，川普延後簽署一項類似的行政命令，他表示提案中的部分內容可能會拖慢美國的 AI 發展，並削弱美國在與中國競爭中的地位。週二的簽署體現了該政府在進行國家安全監管與維持美國科技領導之間求取平衡的努力。
公民公共利益機構（Public Citizen）批評自願框架不足
川普行政命令的批評者表示，該框架過度依賴它所欲監管的 AI 公司所提供的自願合作。消費者倡議非營利組織 Public Citizen 的 AI 治理與科技政策顧問 J.B. Branch 表示，在一份聲明中說：「能夠威脅資安與國家安全的模型需要真正的監督。國會與行政部門應制定全面的聯邦 AI 立法，並設有可強制執行的保障措施、透明度要求、獨立測試，以及對勞工、消費者、兒童與公民權利具意義的保護。」
Anthropic 的 Claude Mythos 模型在 4 月引發資安疑慮
在考量到 Anthropic 的 Claude Mythos 模型引發的疑慮之後，這項以 AI 為焦點的行政命令草案工作獲得動能。該模型展示出辨識軟體弱點的能力，並使官員們對日益強大的 AI 模型所可能帶來的國家安全影響提出疑問。
據報導，在 4 月於 Mythos 揭露之後，美國財政部長 Scott Bessent 與隨後的聯邦準備理事會（Federal Reserve）主席 Jerome Powell 召開了一場與華爾街銀行 CEO 的會議，警告與一個新人工智慧模型相關的資安風險。
儘管存在這些疑慮，Anthropic 仍持續推出 Mythos 的有限存取。週二，Claude AI 開發者表示，透過 Project Glasswing，它正在擴大對其 Claude Mythos AI 模型的存取。該計畫旨在讓科技與資安公司以及政府在強大的模型公開推出之前，發現並處理潛在的漏洞；該公司上週暗示，這將會在「未來數週」內進行。
命令要求針對非法的 AI 使用採取刑事執法行動
該命令要求對犯罪用途的 AI 進行更嚴厲的執法行動；包括侵入任何公共或私人資訊科技系統，或「使用 AI 代理程式（agents）以非法存取資料或資訊，而該等資料或資訊隨後被用於犯罪或非法目的」。
上個月，美國聯邦檢察官指控兩名男子使用 AI 生成並散布未經同意的女性色情露骨影像，這標誌著依據新的「Take It Down Act」所展開的首批重大執法行動之一。
常見問答
川普總統的 AI 行政命令週二究竟建立了什麼？
川普總統週二簽署了一項名為「推動先進人工智慧創新與安全」的行政命令；該命令建立一個自願性的框架，讓 AI 開發者可將強大的 AI 模型提交政府，以供最多 30 天的評估，然後再釋出給可信合作夥伴。該命令要求聯邦機關加速使用由 AI 驅動的資安工具，並建立一套機密的審查流程；在該流程下，美國國家安全局將判定先進 AI 系統是否符合受涵蓋前沿模型的資格。
為何川普在 5 月延後簽署類似的 AI 行政命令？
在 5 月，川普延後簽署一項類似的行政命令，他表示提案中的部分內容可能會拖慢美國的 AI 發展，並削弱美國在與中國競爭中的地位。週二的簽署代表一種修訂後的做法，目標是在維持美國的人工智慧科技領導之同時，平衡國家安全的監管。
Anthropic 的 Claude Mythos 模型在行政命令中扮演了什麼角色？
在考量到 Anthropic 的 Claude Mythos 模型引發的疑慮之後，這項以 AI 為焦點的行政命令草案工作獲得動能；該模型展示出辨識軟體弱點的能力，並使官員們對日益強大的 AI 模型所可能帶來的國家安全影響提出疑問。4 月於 Mythos 揭露之後，據報導，美國財政部長 Scott Bessent 與隨後的聯邦準備理事會主席 Jerome Powell 召開了一場與華爾街銀行 CEO 的會議，警告與一個新人工智慧模型相關的資安風險。
