首套1024卡华为昇腾950液冷超节点点亮
IT时代网10月15日消息,首套1024卡昇腾Atlas 950 SuperPoD液冷超节点今日正式点亮,并同步完成对阶跃星辰Step 5 Preview大模型的0Day适配,这是业界最大规模超节点产品的首次落地部署。
该超节点基于灵衢高速互联架构与超节点技术体系打造,单集群集成1024张昇腾NPU加速卡,采用计算柜与互联柜全液冷散热设计,可提供1 EFLOPS FP8、2 EFLOPS FP4精度的算力,专为万亿参数大模型的高并发推理与训练场景设计。
官方介绍,该集群具备256TB全局统一内存编址能力,NPU卡间互联带宽达TB级,端到端通信时延低至3微秒。依托灵衢互联架构,1024张卡可实现直接互访,无需复杂的协议转换与交换机中转,整套集群逻辑上可等效为“一台超级计算机”。
配合Step 5 Preview大模型开源,昇腾基于vLLM推理引擎同步完成适配,针对模型的稀疏MoE架构与长上下文特性,从算子融合、通信优化、框架调度三个层面完成全栈软硬协同优化。

注:本文配图由AI生成。本文中包含AI辅助创作的内容。
编辑:林一舟
THE END