Anthropic 在 NSA 部署 Mythos AI,並呼籲全球暫停

安特羅派(Anthropic)據《金融時報》週四報導,已在美國國家安全局部署了約六名工程師,用於將其 Mythos AI 模型用於攻勢型網路作戰。這些工程師正在針對特定應用客製化該模型,可能包括滲透中國與伊朗的網路,依據《金融時報》引用的一名消息人士所述。該部署發生之際,安特羅派同時發布研究,呼籲在 AI 開發上採取協調一致的全球暫停機制,並遞交一項可能讓公司估值超過 1 兆美元的 IPO 申請。

Anthropic 在 NSA 部署工程師執行 Mythos AI 作業

根據《金融時報》的報導,安特羅派將約六名工程師置於美國國家安全局,以協助在攻勢型網路作戰中部署 Mythos——其最具能力的 AI 模型。這些工程師屬於前置部署的員工,會針對特定應用客製化該模型。一名消息人士告訴《金融時報》,該模型可用於滲透像中國與伊朗等國家的網路。

Mythos 是安特羅派同樣拒絕公開釋出的那款模型,理由是其存在被濫用的風險。該公司透過 Project Glasswing——一個受限制的聯盟(包含 Microsoft、Apple 和 Amazon)——將其僅限提供給經審查的合作夥伴。是否這些工程師參與了正在進行的作業,尚未獲得證實。

Anthropic 對五角大廈提告,爭取供應鏈風險標示

安特羅派正在起訴五角大廈,原因是國防部長 Pete Hegseth 在二月下旬將該公司指定為供應鏈風險——這個標籤在歷史上通常保留給像華為這樣的外國對手。這項指定是在一份 2 億美元合約崩潰之後做出的。爭點在於:安特羅派拒絕讓國防部將 Claude 用於完全自主武器或國內大規模監控。NSA 合約則不在該禁令範圍內。

一名加州法官以疑似屬於《第一修正案》的報復為由,阻止了這項列黑名單。美國首都華盛頓特區(D.C.)的上訴法院則駁回了安特羅派在訴訟期間暫停該指定的請求。依據《金融時報》的報導,這段期間 NSA 持續使用 Mythos。五角大廈要求在其系統中移除 Claude 的期限落在八月。

Claude 編寫超過 80% 的安特羅派生產程式碼

在同一天 NSA 事件爆出的同時,安特羅派內部研究機構發布了《When AI Builds Itself》,探討 Claude 在自動化自身研發方面已走到多遠。Claude 現在編寫的代碼,已超過併入安特羅派生產程式碼庫的 80%——相較於 Claude Code 在 2025 年初推出前的低個位數。依安特羅派內部研究機構發布、題為《When AI Builds Itself》的報告所述,工程師每天交付的程式碼量約是 2024 年的 8 倍。

在四月,Claude 代理被交付一項開放式的 AI 安全問題——較弱模型能否可靠地監督較強模型——並讓其自行運行。兩名人類研究人員在約一週內彌補了兩種模型之間績效落差的 23%。這些代理在累積 800 小時的運算成本下,彌補了 97%。是人類提出問題,而代理則設計每一個實驗。報告作者——安特羅派研究機構主管 Marina Favaro 與共同創辦人 Jack Clark——將其描述為 Claude 進行研究判斷的第一個已發表案例,而不只是執行他人指定的任務。

安特羅派提出可驗證的全球 AI 開發暫停

該報告主張採取可驗證的全球暫停——多家前沿實驗室同步停止,並由彼此獨立驗證確保每個人都真的停止。安特羅派表示將加入這樣的暫停。作者將所提議的機制比擬為冷戰時期美國與俄羅斯之間簽訂的核子條約。

安特羅派警告,這條路徑正走向遞迴式自我改進:AI 系統能夠自主設計、建造並訓練自身的繼任者,而在人類每一步的角色都逐漸縮小。依據該報告,一旦 AI 選擇哪些實驗值得運行——不只是運行它們——人類就會失去研發迴路中最後一個具意義的角色。今日模型中看得到的些微不一致,可能會在自我改進的世代中不斷累積,直到沒有人能夠糾正它們。

2023 年發布的 AI 安全警告未能阻止研發

在 2023 年,AI 研究社群中超過一百位重要人士在一封公開信中簽名,呼籲進行一項全球性的努力,以降低 AI 開發本身內在就具備的滅絕風險。就在那之前的數月,另一封公開信要求 OpenAI 暫停其在 ChatGPT 上的推進,理由是其危險性。沒有任何人因 2023 年那封公開信而停止。OpenAI 沒有停止,安特羅派也沒有。

常見問題(FAQ)

安特羅派在 NSA 部署了什麼? 依據《金融時報》週四刊登的一份報導,安特羅派在美國國家安全局嵌入約六名工程師,以部署其 Mythos AI 模型用於攻勢型網路作戰。這些工程師正在針對特定應用客製化該模型,可能包括滲透中國與伊朗的網路。

為什麼安特羅派要起訴五角大廈? 安特羅派在二月下旬因一份 2 億美元合約崩潰後,國防部長 Pete Hegseth 將該公司指定為供應鏈風險,因此正在起訴五角大廈。安特羅派拒絕讓國防部將 Claude 用於完全自主武器或國內大規模監控。一名加州法官以疑似《第一修正案》報復為由阻止了列黑名單,而 D.C. 的上訴法院則在訴訟期間駁回了安特羅派暫停該指定的請求。

Claude 為安特羅派編寫多少程式碼? Claude 現在編寫的代碼已超過併入安特羅派生產程式碼庫的 80%——相較於 Claude Code 在 2025 年初推出前的低個位數。依安特羅派內部研究機構發布、題為《When AI Builds Itself》的報告所述,工程師每天交付的程式碼量約是 2024 年的 8 倍。

免責聲明:本頁面資訊可能來自第三方來源,僅供參考,不代表 Gate 的立場或觀點,亦不構成任何財務、投資或法律建議。虛擬資產交易具有高風險,請勿僅依賴本頁資訊作出決策。詳情請參閱 免責聲明
回覆
0/400
暫無回覆