破解AI内存墙HBF与HBC两条路线浮现

IT时代网

2026-9-17 19:33:16

136

次

IT时代网9月17日消息，在近日于硅谷举行的AI基础设施峰会上，内存短缺被列为核心障碍。面对AI推理带来的内存需求激增，传统HBM已难兼顾容量与成本，峰会因此把目光投向新型存储架构，HBF（高带宽闪存）和HBC（高带宽计算）成为焦点，分别从大容量和高能效两个方向寻求突破。

HBF 定位介于 HBM 与 SSD 之间的存储层级，采用 TSV 硅通孔技术垂直堆叠 NAND 闪存，兼顾高带宽与大容量。SK 海力士与闪迪于 2026 年 8 月通过 OCP 发布了首个 HBF 标准规范，最高容量可达 512GB，带宽覆盖 0.4TB/s 至 3.0TB/s。谷歌与 Tenstorrent 已加入 HBF 联盟。

据闪迪公布的数据，在封装尺寸、堆叠高度和功耗与 HBM4 基本相当的前提下，HBF 容量可达 HBM 的 8 至 16 倍。SK 海力士仿真结果显示，采用 8 组 HBM3E 与 8 组 HBF 的组合配置，每瓦性能可提升至纯 HBM 方案的 2.69 倍。

不过 HBF 并非没有短板。GPU IP 公司 OXMIQ Labs 在 Hot Chips 2026 上指出，在 72 GPU 机架运行 1 万亿参数模型的模拟中，用 HBF 替代 HBM 虽可将内存容量从 20.7TB 提升至 294.9TB，但聚合带宽仅为 HBM 的约 60%。因此 HBF 更适合存储不常访问的 MoE 专家池和 KV 缓存，而非全面替代 HBM。

另一条路线 HBC 由高通主推。HBC 将多个 LPDDR 芯片垂直堆叠在加速器上方，通过近存计算把部分计算逻辑直接放到内存下方。高通数据显示，完整加速器级别下，HBC 单位功耗带宽是 HBM 的 6 倍，单位功耗存储容量是 SRAM 的 200 倍。

三星和 SK 海力士已主动提出与高通合作推进 HBC 商业化，台积电负责整合封装工艺。第一代 HBC 产品预计 2027 年出货，将集成到高通 AI250 推理加速器中。不过 HBC 目前仅适用于推理场景中内存带宽受限的解码阶段，预填充阶段仍以计算能力为主导。