根據 Nvidia 最新部落格分析,Blackwell GPU 的每小時成本相較於 Hopper 世代近乎翻倍,但每個 token 的推論成本則可低 35 倍。以 DeepSeek-R1 作為測試模型,Blackwell(GB300 NVL72)租用每張 GPU 每小時為 2.65 美元,而 Hopper 為 1.41 美元;然而單顆 GPU 的吞吐量則從每秒 90 個 token 大幅提升到每秒 6,000 個 token。這 65 倍的吞吐提升使得每百萬個 token 成本從 4.20 美元降至 0.12 美元。
0.12 美元這個數字假設已完成完整軟體最佳化,包括 FP4 低精度推論與多 token 預測(MTP)。若未啟用 MTP,每百萬個 token 成本約可達 2.35 美元;啟用後則降至 0.11 美元,顯示僅靠該功能本身就帶來 21 倍的最佳化效果。
免責聲明:本頁面資訊可能來自第三方,不代表 Gate 的觀點或意見。頁面顯示的內容僅供參考,不構成任何財務、投資或法律建議。Gate 對資訊的準確性、完整性不作保證,對因使用本資訊而產生的任何損失不承擔責任。虛擬資產投資屬高風險行為,價格波動劇烈,您可能損失全部投資本金。請充分了解相關風險,並根據自身財務狀況和風險承受能力謹慎決策。具體內容詳見
聲明。
相關文章
川普政府考慮發布行政命令,成立 AI 任務小組以進行模型審查
根據 Cointelegraph,川普政府正在考慮在今天(5 月 5 日)發布一項行政命令,設立一個 AI 工作小組,用以在其推出前審查新的人工智慧模型
GateNews1分鐘前
科羅拉多州立法者提出以 AI 法替代方案,以回應產業關切
科羅拉多州立法者正推動廢止並取代該州 2024 年的人工智慧法,SB24-205,並以新規則取而代之。新規則將縮小 AI 監管範圍,同時回應產業對遵循負擔的擔憂。新的提案,SB26-189,將規範用於
Crypto Frontier5小時前
R0AR 進入 Consensus 2026 PitchFest 決賽,僅差進入前 20 名
根據 MetaversePost,R0AR 於 5 月 4 日晉級 CoinDesk「Consensus 2026 PitchFest」的最後遴選輪次,僅差一點就進入入選進行現場簡報的前 20 家新創公司。這位 Web3 和 AI 領域的創新者與全球其他高潛力新創公司一同被評估於產業的其中一個主要活動場景中。
GateNews9小時前
馬斯克在開庭前向 OpenAI 尋求 1500 億美元和解金,和解談判破裂
根據一份法院文件,Elon Musk 在 4 月 26 日聯繫了 OpenAI 總裁 Greg Brockman,時間是在他們的審判於奧克蘭聯邦法院開庭的兩天前,目的是探討和解。當 Brockman 建議雙方都撤回他們的主張時,Musk 回覆了威脅,對 Brockman 說:「到結束時
GateNews9小時前
Cursor 接受 SpaceX 的 600 億美元收購要約,但不願在代碼模型上與 xAI 合作
根據 The Information,Cursor 已接受來自 SpaceX 的一項有條件 600 億美元收購要約,儘管該交易尚未完成。該公司目前沒有計劃與 SpaceX 的 AI 部門 xAI 合作開發程式碼模型。相反地,Cursor 正在專注於對其進行優化
GateNews9小時前
Haun Ventures 於 5 月 4 日關閉 10 億美元基金,並在早期與晚期加密投資之間分配資本
根據彭博社,Haun Ventures 於 5 月 4 日完成了一輪 10 億美元的募資,當中 5 億美元用於早期投資,另 5 億美元用於後期投資。該基金將在未來兩到三年內部署資金,目標是加密貨幣與區塊鏈新創,同時擴展
GateNews10小時前