研究人員警告:AI 智能體可能透過幻覺操控成為殭屍網路,幻覺率高達 85%

INTU0.87%

來自特拉維夫大學、理工學院和 Intuit 的研究人員展示了一種名為「對抗性幻覺佔坑」的新攻擊技術,該技術利用 AI 生成的幻覺來破壞電腦安全。此技術能騙取 AI 代理相信含有惡意指令的假軟體庫和工具,可能使攻擊者建立 AI 支援的殭屍網路。

測試顯示,在克隆軟體庫的情境中,AI 幻覺率達到 85%,在針對包括 Cursor、GitHub Copilot、Gemini CLI 和 OpenClaw 在內的程式碼助手進行技能安裝測試時,幻覺率達到 100%。研究人員警告,該方法可能導致遠端程式碼執行,當代理在未驗證來源的情況下依據未確認的資訊行動時。HalluSquatting 模仿拼寫錯誤佔坑策略,但其目標是 AI 模型所犯的錯誤,而非人類打字錯誤。

免責聲明:本頁面資訊可能來自第三方來源,僅供參考,不代表 Gate 的立場或觀點,亦不構成任何財務、投資或法律建議。虛擬資產交易具有高風險,請勿僅依賴本頁資訊作出決策。詳情請參閱 免責聲明
回覆
0/400
暫無回覆