英伟达推出NVHBM定制高带宽内存

IT时代网8月27日消息,英伟达近日为NVLink Fusion定制芯片生态推出全新组件NVHBM,这是一款面向定制AI加速器的定制HBM解决方案。

英伟达宣称,NVHBM单栈带宽相比标准HBM4E最高提升30%,同时功耗更低、主芯片占用面积更小。其核心设计在于把内存控制器从主芯片转移到HBM堆栈的基片之中——传统方案将控制器集成在主芯片上,占用本可用于计算的宝贵硅面积,下沉至HBM基片后,主芯片计算可用面积最多可增加30%。

功耗方面,NVHBM比标准商用HBM4E低15%。在数千上万颗芯片规模下,单颗节省的功耗累积效应显著,可反哺计算单元提升性能,或在固定功耗预算内部署更多加速器。需要指出的是,NVHBM并非用来取代通用HBM产品,而是专门向潜在合作伙伴提供的基础组件,已量产的Vera Rubin机柜级系统并不搭载该技术。

英伟达已与领先内存厂商完成NVHBM的设计与验证,亚马逊旗下Annapurna Labs成为首家合作伙伴,其下一代Trainium4 AI芯片已支持NVLink Fusion扩展接口,后续芯片有望接入NVHBM。英伟达同时向合作伙伴提供小型定制PHY物理层IP,供其集成到自有芯片中。

注:本文中包含AI辅助创作的内容。

THE END