據《Axios》知名專欄報導，當私下詢問 AI 架構師與科技領袖最擔心的風險時，多數人直指 AI 可能遭惡意利用，製造出能無聲且快速傳播的致命病原體。一項最新調查更警告，若缺乏完善的防護措施，到 2030 年由 AI 導致逾百萬人死亡的災難性事件機率將超過 20%。
（前情提要：輝達vs AMD 正夯、CPU架構大對決，誰能定義AI智慧體新標準？）
（背景補充：Googel Q2 雲端收入飆漲82%！摩根大通：AI進入回報期，可逢低買進）
隨著人工智慧技術的高速發展，推動前沿模型進步的科技巨頭們，心中卻隱藏著對未來的深層恐懼。據《Axios》專欄「Behind the Curtain」最新報導指出，當私下詢問幾乎每一位 AI 架構師與領導者最擔憂的風險時，他們的答案出奇地一致：一種能悄無聲息、廣泛且快速傳播，讓人來不及阻止的致命病原體。
專家共識：AI 恐加速生化武器開發
專家們罕見地達成共識，認為先進的 AI 模型極有可能幫助惡意行為者，在各國政府與產業建立完善的防範系統之前，就輕易製造出致命病原體。隨著 AI 逐漸深入理解人類的生物脆弱性，這已被業界視為「合理可能」的重大風險。
麻省理工學院（MIT）FutureTech 與昆士蘭大學（University of Queensland）針對 272 位研究人員進行的一項最新調查，對 24 項主要 AI 風險進行了排名。結果顯示，若無任何緩解防護措施，到 2030 年 AI 危險能力導致災難性後果（定義為超過 100 萬人死亡或造成 1,000 億美元損害）的機率超過 20%；即使在有緩解措施的情況下，發生災難與 AI 啟用大規模傷害武器的機率也仍各有約 12%。
AI 巨頭連署警告，防護網成監管焦點
這項潛在的末日威脅並非空穴來風。上個月，包含 OpenAI 的 Sam Altman、Anthropic 的 Dario Amodei、Google DeepMind 的 Demis Hassabis、微軟的 Mustafa Suleyman 以及 Meta 的 Alexandr Wang 等科技領袖，才剛共同簽署了一封公開信，嚴正警告 AI 衍生的生物武器風險，並強烈呼籲加強保障措施。
AI 巨頭私下最怕什麼？Axios：擔憂遭惡意利用製造「致命病原體」，引發生化災難
據《Axios》知名專欄報導，當私下詢問 AI 架構師與科技領袖最擔心的風險時，多數人直指 AI 可能遭惡意利用，製造出能無聲且快速傳播的致命病原體。一項最新調查更警告，若缺乏完善的防護措施，到 2030 年由 AI 導致逾百萬人死亡的災難性事件機率將超過 20%。
（前情提要：輝達vs AMD 正夯、CPU架構大對決，誰能定義AI智慧體新標準？）
（背景補充：Googel Q2 雲端收入飆漲82%！摩根大通：AI進入回報期，可逢低買進）
隨著人工智慧技術的高速發展，推動前沿模型進步的科技巨頭們，心中卻隱藏著對未來的深層恐懼。據《Axios》專欄「Behind the Curtain」最新報導指出，當私下詢問幾乎每一位 AI 架構師與領導者最擔憂的風險時，他們的答案出奇地一致：一種能悄無聲息、廣泛且快速傳播，讓人來不及阻止的致命病原體。
專家共識：AI 恐加速生化武器開發
專家們罕見地達成共識，認為先進的 AI 模型極有可能幫助惡意行為者，在各國政府與產業建立完善的防範系統之前，就輕易製造出致命病原體。隨著 AI 逐漸深入理解人類的生物脆弱性，這已被業界視為「合理可能」的重大風險。
麻省理工學院（MIT）FutureTech 與昆士蘭大學（University of Queensland）針對 272 位研究人員進行的一項最新調查，對 24 項主要 AI 風險進行了排名。結果顯示，若無任何緩解防護措施，到 2030 年 AI 危險能力導致災難性後果（定義為超過 100 萬人死亡或造成 1,000 億美元損害）的機率超過 20%；即使在有緩解措施的情況下，發生災難與 AI 啟用大規模傷害武器的機率也仍各有約 12%。
AI 巨頭連署警告，防護網成監管焦點
這項潛在的末日威脅並非空穴來風。上個月，包含 OpenAI 的 Sam Altman、Anthropic 的 Dario Amodei、Google DeepMind 的 Demis Hassabis、微軟的 Mustafa Suleyman 以及 Meta 的 Alexandr Wang 等科技領袖，才剛共同簽署了一封公開信，嚴正警告 AI 衍生的生物武器風險，並強烈呼籲加強保障措施。
專家擔憂，資源充足的惡意行為者可利用強大模型繪製人類生物脆弱性，找出能讓已知病原體更易傳播或對現有治療免疫的基因調整方案。在大量生物與基因組數據訓練下，AI 產生可行候選方案的速度，宛如數百位最聰明的科學家以超高速、不眠不休地工作。
隨後，這些方案便可利用越來越便宜的基因編輯工具進行合成。最終，這些新穎的病原體將在公共衛生系統察覺前就開始散播，其遏制難度將遠超過 COVID-19 時期。這也讓關於「開源模型」是否容易遭監管外濫用的辯論成為焦點，如何在推動技術進步與防範邪惡意圖之間取得平衡，將是全人類必須共同面對的嚴肅課題。