热页留在 DRAM、冷页下沉闪存、用模型提前把要用的页拉回来,内存涨价的年份里,这笔账突然有人愿意算了
MEXT 原本是一家初创公司,被 AMD 收购后并入其数据中心产品线。它的核心是一层软件:对操作系统和应用来说,插在服务器里的 NVMe 闪存看起来就是一块普通内存,应用代码不用改。
背后的机制分三步:
闪存的物理速度没有变,变的是命中率。只要预测足够准,大部分访问都落在 DRAM 上,性能损失就能压到很低。有报道给出的推荐配法是:先算出总共需要多少内存,再一半买 DRAM、一半买闪存卡。
「最多 83%」和「最高 99%」都是上限值,适用于冷数据比例高、访问模式规律的负载。AMD 自家 IT 部门公开过一个更具体的案例:在 Epyc 服务器上用 NVMe 闪存扩展内存,可用容量增加 20%,扩容成本比全部用 DRAM 低 82%。这个结果衡量的是扩容这部分的成本,不是整台服务器的总价。
反过来,访问随机、热数据占大头的负载,比如对延迟极敏感的在线交易库,预取很难猜中,闪存的慢就会暴露出来。真实收益只能按自己的负载实测。
用闪存冒充内存的尝试并不新。2019 年 AMD 就从西部数据拿到过内存扩展技术,英特尔的傲腾持久内存走的也是类似思路,但后者在 2022 年停产了。当年这类方案难推,一个重要原因是 DRAM 不算贵,省下的钱不值得承担性能风险。
现在情况变了。AI 服务器对高带宽内存的需求挤占了存储芯片厂的产能,通用 DRAM 价格这两年持续走高,内存在服务器整机成本里的占比明显上升。同时,数据库、缓存、虚拟化这类负载里本来就躺着大量很少被访问的数据。用 AI 来做内存分层,本身也是 AI 把内存推贵之后的一种回应。
商业上,MEXT 以许可形式绑定 Epyc 出售,也给了 AMD 一个在服务器 CPU 之外的差异化卖点:同样容量的内存需求,用它的平台可以少买一半 DRAM。英特尔和 CXL 内存扩展厂商会怎么回应,是接下来值得看的地方。