英國外相伊維特·庫柏警告，各國政府需要達成全球協議來管理人工智慧風險。在週一發表的文章中，庫柏將此挑戰比作二戰後的核安全努力，指出若各國等到危機發生才制定AI法規，可能重蹈核時代初期的錯誤。庫柏稱此議題可能成為「未來十年最大的安全挑戰」，並敦促美國、中國及其他AI強國在安全標準上合作。她的警告緊接2023年在布萊切利園舉行的AI安全峰會，以及近期對AI網路安全能力日益升高的擔憂。
庫柏將AI治理挑戰比作核武競賽
庫柏寫道，AI帶來突破，但隨著技術變得更加強大且廣泛可用，也帶來新的風險。「上個月，我在中國深圳看到了AI與機器人在拯救生命的醫療保健中的非凡前景，」庫柏表示。「但同樣的技術也正以令人擔憂的方式重塑戰爭、犯罪與社會凝聚力的未來。」
庫柏將當前發展AI系統的競賽比作早期的核武競賽，指出全球安全協議只有在各國目睹原子武器造成的破壞後才出現。「關於核能，國際協議是在世界看到廣島這項新技術的可怕威力後才達成的，」庫柏寫道。「我們不能等到AI版的廣島發生後才行動。」
庫柏呼籲英國運用其外交影響力，促使美國、中國及其他主要AI強國共同制定共享的安全原則與標準。她指出2023年在布萊切利園舉行的AI安全峰會，來自29個國家及歐盟的全球領袖齊聚討論AI新興風險，稱此為英國有能力「集結全球力量應對AI安全」的例證。
近期AI安全事件促使政策回應
庫柏的警告發布前數月，各界對於政府應如何監管日益強大的AI系統的擔憂持續升溫。五月，英國AI安全研究所警告，在OpenAI的GPT-5.5成為第二個無需人類協助即完成模擬網路攻擊的模型（繼Anthropic的Claude Mythos Preview之後）後，AI網路安全能力出現快速提升。
幾天後，國際貨幣基金組織警告，AI可能透過降低利用漏洞所需的技能來「放大」針對全球金融體系的網路攻擊，敦促政策制定者將網路安全視為金融穩定問題，而非純粹的技術問題。
六月，總統唐納·川普簽署一項行政命令，建立一個自願性框架，在發布先進AI模型前進行審查，擴大AI網路安全計畫，並指示各機構評估前沿AI模型可能帶來的國家安全風險。
同月，Anthropic執行長達里奧·阿莫代伊主張，透明度要求已不再足夠，並呼籲對前沿模型進行強制性的第三方測試。隨後美國政府以國家安全為由，要求Anthropic限制對Claude Fable 5及Mythos 5的存取，直到七月才解除該命令。
常見問題
英國外相伊維特·庫柏對AI治理提出了什麼警告？
英國外相伊維特·庫柏警告，各國政府需要在危機迫使行動之前達成全球協議來管理AI風險。在週一發表的文章中，她表示管理AI風險可能成為「未來十年最大的安全挑戰」，並將此情況比作核武競賽——國際協議只有在目睹廣島的破壞後才達成。
庫柏呼籲在AI安全方面進行何種國際合作？
庫柏呼籲英國運用其外交影響力，促使美國、中國及其他主要AI強國共同制定共享的安全原則與標準。她指出2023年在布萊切利園舉行的AI安全峰會，來自29個國家及歐盟的領袖齊聚討論AI風險，以此作為英國有能力集結全球合作應對AI安全的例證。
在庫柏發出警告之前，有哪些近期AI安全發展？
五月，英國AI安全研究所警告，在OpenAI的GPT-5.5無需人類協助即完成模擬網路攻擊後，AI網路安全能力出現快速提升。國際貨幣基金組織警告，AI可能放大針對全球金融體系的網路攻擊。六月，總統唐納·川普簽署行政命令，建立審查先進AI模型的框架，美國政府則以國家安全為由要求Anthropic限制對某些模型的存取，直到七月才解除命令。
