来自特拉维夫大学、理工学院和 Intuit 的研究人员展示了一种名为“对抗性幻觉蹲坑”的新攻击技术,该技术利用 AI 生成的幻觉来危害计算机。该技术通过欺骗 AI 代理相信包含恶意指令的虚假软件仓库和工具,可能使攻击者建立 AI 支持的僵尸网络。
测试显示,在仓库克隆场景中,AI 幻觉率达到 85%,在针对包括 Cursor、GitHub Copilot、Gemini CLI 和 OpenClaw 的编码助手的技能安装测试中达到 100%。研究人员警告,该方法可能导致远程代码执行,当代理在未验证信息来源的情况下采取行动时。HalluSquatting 类似拼写劫持策略,但针对 AI 模型的错误,而非人类打字错误。