OpenAI 的 GPT-Red 模型以 84% 的成功率攻击 GPT-5.1,将对抗性漏洞降低至 0.05%

据 Beating 的监测,OpenAI 已发布 GPT-Red,这是一款自动化红队模型,旨在识别并利用其 AI 系统中的安全漏洞。GPT-Red 通过自我对弈学习构造提示注入攻击,并将相关发现反馈至用于训练 GPT-5.6。

在新的、未见过的场景中,GPT-Red 针对 GPT-5.1 的攻击成功率达到 84%,而人类红队仅为 13%。经过对抗训练后,GPT-5.6 Sol 将直接提示注入攻击的成功率降至 0.05%。GPT-Red 仅供内部使用。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明
评论
0/400
暂无评论