研究人員植入提示注入以阻止 AI 攻擊;測試顯示管理員存取率下降 57% 至 5%

Tracebit 的研究人員在週一表示,他們發現了一種名為「情境轟炸」(context bombing)的防禦技術:它會把提示注入(prompt injections)——也就是會觸發 AI 安全防護欄位的禁用指令——與存放在 AWS 的秘密一同埋入,以阻止來自 AI 代理(AI agents)的攻擊。當遭受攻擊的模型遇到這些提示時,它會停止遵循原本的指令,並拒絕繼續。

Tracebit 透過在模擬 AWS 環境中進行 152 次攻擊測試,將情境轟炸套用於五個領先模型(Opus 4.8、Gemini 3.1 Pro、GLM 5.2、DeepSeek 4 Pro 和 Kimi 2.6)。結果顯示,在誘餌秘密中放入情境轟炸後,代理取得完整管理員(admin)存取權的比率由 57% 降至 5%,完全攻破(complete compromise)的比率由 36% 降至 1%。在未啟用防禦時,測試中最具能力的代理 Opus 4.8 在 93% 的運行中取得管理員存取權,但在面對情境轟炸後,所有嘗試都失敗。

免責聲明:本頁面資訊可能來自第三方來源,僅供參考,不代表 Gate 的立場或觀點,亦不構成任何財務、投資或法律建議。虛擬資產交易具有高風險,請勿僅依賴本頁資訊作出決策。詳情請參閱 免責聲明
回覆
0/400
暫無回覆