研究人员警告:AI 代理可能通过幻觉变成僵尸网络,幻觉发生率高达 85%

INTU0.87%

来自特拉维夫大学、理工学院和 Intuit 的研究人员展示了一种名为“对抗性幻觉蹲坑”的新攻击技术,该技术利用 AI 生成的幻觉来危害计算机。该技术通过欺骗 AI 代理相信包含恶意指令的虚假软件仓库和工具,可能使攻击者建立 AI 支持的僵尸网络。

测试显示,在仓库克隆场景中,AI 幻觉率达到 85%,在针对包括 Cursor、GitHub Copilot、Gemini CLI 和 OpenClaw 的编码助手的技能安装测试中达到 100%。研究人员警告,该方法可能导致远程代码执行,当代理在未验证信息来源的情况下采取行动时。HalluSquatting 类似拼写劫持策略,但针对 AI 模型的错误,而非人类打字错误。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明
评论
0/400
暂无评论