据 Citrini Research 称,6 月 16 日,AMD 和 Apple 正在同步推进基于闪存的替代方案,用于在 AI 产品中取代 DRAM。AMD 收购 MEXT 以优化接近 DRAM 水平的闪存储性能,从而降低数据中心的内存成本;Apple 部署了“LLM in a flash”技术,在设备端实现类似的优化。
Citrini 最新研究表明,AI 推理中的 KV cache 需求以及 HBM 占用 25% 的 DRAM 产能,带来了显著的内存成本压力。闪存存储成本仅为 DRAM 的 1/55,并通过控制器优化、NAND 堆叠和单元模式调整,为边缘 AI 提供了可行的容量和带宽替代方案。