月之暗面剛開源 Kimi K3,這家北京新創已在尋求取得更多 Nvidia Blackwell 晶片,準備訓練規模更大的 K4。 (前情提要:擠爆!Kimi K3 上線 48 小時用量達上限,月之暗面暫停新訂閱) (背景補充:近 200 家矽谷企業上書白宮:封鎖中國開源模型,死的是美國自己)
月之暗面(Moonshot AI)於 7 月 27 日晚間剛開源參數量達 2.8 兆的 Kimi K3,並同步釋出模型權重、技術報告與關鍵基礎設施。公司就表態已經在著手規劃下一代 K4,預告規模將「明顯大於」剛發布的 K3,並表示目前急需要更多算力。
目前,沒有任何一家中國雲端業者能單獨提供足夠的 Blackwell 算力,月之暗面的做法是把至少兩家中國雲端業者的算力拼接起來使用,並讓工程師專門最佳化跨資料中心的網路架構,才讓分散在不同機房、甚至不同城市的訓練跑得起來,不至於因為延遲拖垮整個訓練流程。
這種東拼西湊說明:當單一供應商不夠用,出口管制反而逼出了一套更複雜的繞道工程,也讓「誰在幫誰」變成一團迷霧。
推論端同樣吃緊。在管制下能合法取得的 H20 晶片上,客戶要串接至少 64 顆伺服器晶片才跑得動 Kimi K3。光是把 64 顆晶片串在一起、讓它們協同運作,就是一筆可觀的硬體與網路成本,這也是月之暗面寧可冒著違規風險也想湊齊 Blackwell 的原因,省下的不只是電費和機房空間,而是能不能接住這波需求、留住大量湧入的用戶。
一週前,白宮科技政策辦公室主任 Michael Kratsios 在 X 上指控,美國政府「掌握資訊顯示」月之暗面蒸餾了 Claude Fable 5 來開發 K3。
Kratsios 還指控月之暗面建立了一套精密的內部平台,能快速切換多種存取方式規避偵測,並已在泰國取得配備 GB300 的伺服器。但他至今沒有公布支撐這項判斷的技術證據,這仍是政府單方面的指控,不是已證實的調查結論。但這代表東南亞的雲端業者與資料中心營運商,可能因此背上意外的法律風險。
另外也有專家質疑,Claude Fable 5 是 7 月 1 日才公開,時間窗口只有三週,K3 不可能主要靠蒸餾它而來,技術上根本來不及。
至於 Nvidia 的立場一如既往:模型越強,推論需求越高,晶片只會賣得更多,不會更少。這句話對黃仁勳有利,卻也可能是對的,出口管制能拖慢晶片輸出,但卡不住需求本身。
68.67萬 熱度
1.47萬 熱度
89.1萬 熱度
1537.64萬 熱度
227.19萬 熱度
月之暗面剛開源 Kimi K3 就預告:參數量更大的 K4 已在排隊,正尋求更多算力
月之暗面剛開源 Kimi K3,這家北京新創已在尋求取得更多 Nvidia Blackwell 晶片,準備訓練規模更大的 K4。
(前情提要:擠爆!Kimi K3 上線 48 小時用量達上限,月之暗面暫停新訂閱)
(背景補充:近 200 家矽谷企業上書白宮:封鎖中國開源模型,死的是美國自己)
月之暗面(Moonshot AI)於 7 月 27 日晚間剛開源參數量達 2.8 兆的 Kimi K3,並同步釋出模型權重、技術報告與關鍵基礎設施。公司就表態已經在著手規劃下一代 K4,預告規模將「明顯大於」剛發布的 K3,並表示目前急需要更多算力。
一家補不齊,那就湊兩家
目前,沒有任何一家中國雲端業者能單獨提供足夠的 Blackwell 算力,月之暗面的做法是把至少兩家中國雲端業者的算力拼接起來使用,並讓工程師專門最佳化跨資料中心的網路架構,才讓分散在不同機房、甚至不同城市的訓練跑得起來,不至於因為延遲拖垮整個訓練流程。
這種東拼西湊說明:當單一供應商不夠用,出口管制反而逼出了一套更複雜的繞道工程,也讓「誰在幫誰」變成一團迷霧。
推論端同樣吃緊。在管制下能合法取得的 H20 晶片上,客戶要串接至少 64 顆伺服器晶片才跑得動 Kimi K3。光是把 64 顆晶片串在一起、讓它們協同運作,就是一筆可觀的硬體與網路成本,這也是月之暗面寧可冒著違規風險也想湊齊 Blackwell 的原因,省下的不只是電費和機房空間,而是能不能接住這波需求、留住大量湧入的用戶。
訓練地點繞過制裁?
一週前,白宮科技政策辦公室主任 Michael Kratsios 在 X 上指控,美國政府「掌握資訊顯示」月之暗面蒸餾了 Claude Fable 5 來開發 K3。
Kratsios 還指控月之暗面建立了一套精密的內部平台,能快速切換多種存取方式規避偵測,並已在泰國取得配備 GB300 的伺服器。但他至今沒有公布支撐這項判斷的技術證據,這仍是政府單方面的指控,不是已證實的調查結論。但這代表東南亞的雲端業者與資料中心營運商,可能因此背上意外的法律風險。
另外也有專家質疑,Claude Fable 5 是 7 月 1 日才公開,時間窗口只有三週,K3 不可能主要靠蒸餾它而來,技術上根本來不及。
至於 Nvidia 的立場一如既往:模型越強,推論需求越高,晶片只會賣得更多,不會更少。這句話對黃仁勳有利,卻也可能是對的,出口管制能拖慢晶片輸出,但卡不住需求本身。