Nvidia 的 Blackwell 首次推出代理硬體基準,比 H200 高 20 倍效率

根據 Artificial Analysis,Nvidia 的 Blackwell GB300 NVL72 液冷機櫃系統在其最新發布的代理硬體基準測試 AA-AgentPerf 中,支援每 1 兆瓦功率可同時運行 61,400 個代理(concurrent agents),而上一代 Hopper HGX H200 僅為 2,600。該基準透過重放真實的程式工作流程來衡量效率:AI 代理會自主分解任務,並在檔案操作、程式碼修改與測試週期之間反覆迭代。單一 GPU 的同時運行容量提升了 41 倍。

在功率預算等量的情況下,資料中心現在可支援多達 20 倍的同時代理數,能顯著降低用於自主程式編寫與客戶服務應用的部署成本。AMD 的 Instinct MI355X 目前在初步結果上落後,但評估機構指出,隨著服務框架被最佳化,AMD 的效能可能會提升。

免責聲明:本頁面資訊可能來自第三方來源,僅供參考,不代表 Gate 的立場或觀點,亦不構成任何財務、投資或法律建議。虛擬資產交易具有高風險,請勿僅依賴本頁資訊作出決策。詳情請參閱 免責聲明
回覆
0/400
暫無回覆