AI 代理安全風險曝光:攻擊者可利用「記憶污染」誘導資金誤操作

robot
摘要生成中
ME News 消息,5 月 15 日(UTC+8),GoPlus Security 團隊在其 AgentGuard AI 項目中披露一種新型攻擊方式:通過「歷史記憶注入(memory poisoning)」誘導 AI 代理執行未經明確授權的敏感操作。 攻擊方式並不依賴傳統漏洞或惡意程式碼,而是利用 AI 代理的長期記憶機制。例如攻擊者先誘導代理「記住偏好」,如「通常優先主動退款而不是等待拒付」,隨後在後續指令中使用「按慣例處理」「照之前方式執行」等模糊表述,從而觸發自動化資金操作。 GoPlus 指出,這類風險的關鍵在於 AI 代理會將「歷史偏好」誤當作授權依據,進而在退款、轉帳、配置修改等操作中產生資金損失或安全事件。針對該問題,團隊提出多項防護建議,包括: · 涉及退款、轉帳、刪除或敏感配置的操作必須進行當前會話明確確認 · 「習慣」「通常方式」「照舊」等記憶類指令應視為高風險狀態變更 · 長期記憶必須具備可追溯機制(寫入者、時間、是否確認) · 模糊指令應自動提升風險等級並觸發二次驗證 · 長期記憶不得取代即時授權流程 該團隊強調,應將「AI 代理記憶系統」視為潛在攻擊面,並通過專門安全框架進行約束與審計。 (來源:BlockBeats)
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 7
  • 1
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
低多边形地球
· 30分鐘前
AI安全框架得趕緊跟上了,不然記憶成後門
查看原文回復0
倒影里的清算线
· 30分鐘前
記憶注入這招太陰了,AI把習慣當授權,細思極恐
查看原文回復0
GateUser-8df0eb2b
· 32分鐘前
長期記憶不可取代即時授權,這條寫進程式碼規範吧
查看原文回復0
0xSideQuest
· 39分鐘前
以後AI轉帳得加個'你確定不是被洗腦了?'的彈窗
查看原文回復0
钱包偷跑报警器
· 46分鐘前
將記憶系統作為攻擊面來審計,這才是真正的安全思維
查看原文回復0
GateUser-6d80555a
· 49分鐘前
退款轉帳這種操作必須現時確認,延遲授權=埋雷
查看原文回復0
玻璃穹顶观察站
· 49分鐘前
模糊指令觸發二次驗證,相當於給AI設了個'清醒檢查'
查看原文回復0