Zapier 的新 AutomationBench-AA 显示合规护栏将顶级 AI 模型分数减半

据 Beating 监测,Zapier 与 Artificial Analysis 联合发布了 AutomationBench-AA,这是一个基于 Zapier 平台真实匿名数据的独立 SaaS 工作流自动化基准测试。该基准包含 657 个多步骤任务和 40 个模拟 SaaS 环境,包括 Gmail、Slack、Salesforce 和 Jira。

关键的是,该基准强制实施严格的合规护栏:任何违反预设企业业务规则的行为都会自动使最终任务得分归零。在初步评估中,所有模型因合规惩罚导致得分大幅下降。Claude Fable 5 完成了 73% 的任务,但最终得分仅为 48.6%;Gemini 3.5 Flash 和 GPT-5.5 分别完成了约 68% 和 67% 的任务,但得分分别为 42.6% 和 42.1%。开源模型 GLM-5.2 得分为 27.8%。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明
评论
0/400
暂无评论