2026-05-28 14:10:31
Vitalik 建議針對 96GB 記憶體等級的本地 LLM 硬體進行標準化
根據 PANews 指出,5 月 28 日以太坊聯合創辦人 Vitalik Buterin 建議,本地大型語言模型(LLM)的部署應圍繞特定記憶體配置進行標準化,目前硬體可行的上限為 96GB。Buterin 以配備 96GB VRAM 的 RTX 6000 GPU,以及配備 128GB 統一記憶體的高階 MacBook 作為參考,並表示約 32GB 應預留給其他系統任務。他提出生態系統採用標準化的容量分級——2GB、8GB、24GB、96GB、256GB 和 1TB——以提升部署效率,並增進 LLM 與 GPU 硬體設計的跨平台相容性。