英伟达576颗显卡互联打造巨型GPU

IT时代网10月23日消息,英伟达计划于明年推出基于Rubin Ultra架构的NVL576整机架方案,通过下一代CPO与NVLink技术将576颗GPU互联为统一巨型GPU,官方称其将带来“全球最高能效比”。

该平台瞄准10万亿参数级AI模型训练与推理,是继Rubin之后英伟达在数据中心算力规模上的又一次跃升。

核心规格方面,Rubin Ultra单显卡将搭载高达1TB的HBM4e显存,单机架显存总带宽达到4.6PB/s。官方数据显示,该系统在FP4精度下的推理性能为15Exaflops,FP8训练性能为5Exaflops,相较于目前Blackwell架构的GB300 NVL72提升14倍。

外观与结构上,Rubin Ultra计算托盘采用高度模块化设计,每个托盘集成两颗Rubin显卡和一颗Vera中央处理器,机架内部布满被称为“黄色纤维”的光纤束用于连接各光学引擎。这种基于OCP标准的模块化设计,使原本需要数小时的物理安装过程缩短到几分钟内完成。

针对业界此前对CPO技术延期的传闻,英伟达首席执行官黄仁勋在GTC柏林站明确表示,CPO机架目前已进入大规模量产阶段,光互联技术将正式成为未来高性能计算的行业标准。

注:本文中包含AI辅助创作的内容。

编辑:林一舟

THE END