美光vHBM架构曝光带宽冲上2TB/s

美光在近期技术研讨会上公布了下一代AI内存路线图,核心是名为vHBM的垂直高带宽内存架构。与传统HBM通过中介层将内存与处理器并排摆放不同,vHBM直接将DRAM堆叠在运算芯片上方,用无凸块混合铜键合技术取代中介层,大幅压缩数据传输距离。美光总裁兼CTO表示,AI工作负载对每token带宽和功耗的要求正在急剧攀升,vHBM的目标就是消除互连瓶颈。首代vHBM设计目标为2TB/s带宽,每比特能耗低于1皮焦耳,计划2028年启动量产,2030年前推出三代产品,其中vHBM3锁定2030年。把内存直接压在处理器头顶,也带来散热层面的硬约束:内存堆叠会挡住处理器的散热路径。业界判断vHBM未来将与标准HBM并行使用,而非全面取代现有架构,美光为此准备了集成式烟囱散热器。与vHBM同步推进的还有vEIM垂直边缘推理内存,将低功耗LPDDR堆叠在边缘设备的逻辑芯片之上。

注:本文中包含AI辅助创作的内容。

编辑:林一舟

THE END