根據 Axios，MIT FutureTech 與昆士蘭大學的聯合研究今天發布指出：272 名研究者在評估 24 種 AI 風險時，辨識出一項 12% 的機率——在目前已採取緩解措施的情況下，AI 能力可能在 2030 年之前導致災難性後果；災難性後果定義為超過 100 萬人死亡，或損失超過 1000 億美元。對於配備 AI 的武器與大規模傷害，該機率同樣適用。若不採取緩解措施，該風險將超過 20%。研究亦將利用 AI 協助建構化學與生物武器列為最高風險類別之一。
多位來自主要 AI 公司的領導者也共同發表公開聯名信，警告由 AI 產生的生物武器風險，呼籲進一步加強模型能力審計與安全防護措施，尤其針對開放原始碼模型可能被濫用的情況。
