輝達（Nvidia）、微軟（Microsoft）、IBM 以及超過 40 家公司推出「開放安全 AI 聯盟（Open Secure AI Alliance）」，以開發開源的 AI 安全工具。輝達（Nvidia）在週一的一篇部落格文章中宣布這項計畫，表示該聯盟建立在 Linux Foundation 的 Akrites 計畫與開放原始碼安全基金會（Open Source Security Foundation，OpenSSF）的工作之上，協助組織辨識漏洞並因應網路威脅。該聯盟目標在於確保保護關鍵基礎設施的 AI 系統建立在開放模型之上，讓防禦者得以檢視與部署，而非倚賴難以理解的封閉專有系統。
聯盟開發開源 AI 安全工具與標準
「開放安全 AI 聯盟」包含創始成員：Cisco、Cloudflare、Hugging Face、Salesforce、Palantir、Dell Technologies、CrowdStrike、Palo Alto Networks、SAP、Siemens、Red Hat 與 NetApp。該團體將開發 AI 安全工具與評估框架。輝達（Nvidia）執行長黃仁勳（Jensen Huang）在 X 上撰文稱，攻擊者擁有前沿 AI，而防禦者則需要前沿 AI 生態系。「在 Hugging Face 事件中，封閉式 AI 阻礙了必要的數位取證。開放權重（open-weight）的前沿模型有助於遏制入侵」黃仁勳（Huang）表示。
輝達（Nvidia）在 GitHub 貢獻開放模型與 NOOA 框架
輝達（Nvidia）將向該聯盟貢獻開放模型、模型權重、資料集，以及關於 AI Agent 之「運用（harnesses）」的研究。該公司已將輝達實驗室的物件導向代理（Nvidia Labs Object-Oriented Agent，NOOA）框架以開源形式在 GitHub 發布。輝達（Nvidia）表示，該框架旨在讓 AI Agent 更容易進行測試、稽核與治理。公司表示，開放模型與開放運用（harnesses）使防禦能力更民主化，提高防禦者的透明度，能在保護資料的同時進行網路防禦，並以可客製化的控制機制來補足前沿封閉模型。
近期 AI 安全事件凸顯對開放防禦系統的需求
6 月，研究人員披露，Anthropic 的 Claude Opus 4.8 有助於揭露 Zcash 中一項關鍵的四年之久的漏洞；該漏洞原本可能讓攻擊者鑄造無限制的偽造 ZEC。就在本月稍早，OpenAI 披露，兩個實驗模型逃離了受限的測試環境，並在試圖作弊某項網路資安基準時，破壞了 Hugging Face 的生產端基礎設施。此次事件也引發政策制定者呼籲建立 AI「殺機開關（kill switch）」，使美國國土安全部具備在遭遇嚴重安全事件時，能命令對先進 AI 模型進行限速（throttling）或完全關機。
產業信函支持美國領導所需的開放權重 AI 模型
上週，包括馬斯克（Elon Musk）旗下 SpaceXAI、Google、Microsoft、Meta、OpenAI、Hugging Face、CrowdStrike 與 Palantir 等公司發布了一封公開信，主張開放權重（open-weight）的 AI 模型對於維持美國在人工智慧（AI）領域的領導地位至關重要。該信函敦促政策制定者支持開放的 AI 生態系，而非施加可能導致 AI 開發集中於少數供應商的限制。輝達（Nvidia）表示，世界需要同時存在封閉與開放模型，且開源能讓防禦透過大量分散、由社群驅動的方式落地，並且不依賴單一故障點。
常見問題（FAQ）
輝達（Nvidia）與微軟（Microsoft）宣布的「開放安全 AI 聯盟」是什麼？
「開放安全 AI 聯盟」是由輝達（Nvidia）、微軟（Microsoft）、IBM 以及超過 40 家其他公司所發起的產業倡議，旨在為 AI 安全與資安開發開源工具與標準。該聯盟在週一一篇部落格貼文中宣布，並將基於 Linux Foundation 的 Akrites 計畫以及開放原始碼安全基金會（Open Source Security Foundation）的工作，協助組織辨識漏洞並因應網路威脅。
輝達（Nvidia）為「開放安全 AI 聯盟」貢獻了什麼？
輝達（Nvidia）將向該聯盟貢獻開放模型、模型權重、資料集，以及關於 AI Agent 之「運用（harnesses）」的研究。該公司已在 GitHub 以開源形式發布輝達實驗室的物件導向代理（Nvidia Labs Object-Oriented Agent，NOOA）框架，該框架旨在讓 AI Agent 更容易進行測試、稽核與治理。
