Zapier 的新 AutomationBench-AA 揭示合規護欄使頂級 AI 模型得分減半

根據 Beating's monitoring 的監控,Zapier 和 Artificial Analysis 推出了 AutomationBench-AA,這是一個基於 Zapier 平台真實匿名數據的獨立 SaaS 工作流程自動化基準測試。該基準測試包含 657 個多步驟任務和 40 個模擬 SaaS 環境,包括 Gmail、Slack、Salesforce 和 Jira。

關鍵在於,該基準測試實施嚴格的合規防護措施:任何違反預設企業業務規則的行為都會自動將最終任務分數歸零。在初步評估中,所有模型因合規扣分而導致分數大幅下降。Claude Fable 5 完成了 73% 的任務,但最終得分僅為 48.6%;Gemini 3.5 Flash 和 GPT-5.5 分別完成了約 68% 和 67% 的任務,但得分分別為 42.6% 和 42.1%。開源模型 GLM-5.2 得分為 27.8%。

免責聲明:本頁面資訊可能來自第三方來源,僅供參考,不代表 Gate 的立場或觀點,亦不構成任何財務、投資或法律建議。虛擬資產交易具有高風險,請勿僅依賴本頁資訊作出決策。詳情請參閱 免責聲明
回覆
0/400
暫無回覆