三星称zHBM可将AI加速器响应速度提升十倍

IT时代网9月18日消息，据Chosun报道，在加州圣克拉拉会议中心当地时间16日举行的AI基础设施峰会上，多家半导体企业密集公布了新一代AI内存路线图。三星电子在会上表示，上月发布的下一代AI内存zHBM将把AI加速器的响应速度提升十倍。

此前，本站曾报道过三星展示垂直堆叠的zHBM技术。这一方案把高带宽内存直接垂直堆叠在AI加速器之上。三星电子美国公司负责内存产品规划的高级副总裁金仁东把这种结构形容为“像是在酒店客房里装了一部直达一楼大堂的专属电梯”。他表示，公司的目标是把面向用户的对话式AI系统响应速度，从目前每人每秒100个token提升到每秒1000个token。

按照三星给出的数据，与HBM5相比，zHBM最高可提供8倍的性能和3倍的能效。不过，会上也出现了对被视作HBM互补技术的CXL的负面看法。一位AI加速器设计研究人员表示，从实际运行AI模型的角度看，他找不到CXL的使用场景；英特尔负责AI系统级芯片架构的人士也认为，通过CXL在GPU之间的数据传输速度远不及HBM。

编辑：林一舟