新芯航途发布X7 Ultra大模型芯片

IT时代网10月29日消息,新芯航途今日举行发布会,正式推出面向智能驾驶的X7 Ultra大模型芯片,大模型算力达700TOPS等效水平,CEO李宗霖同时阐述了公司的核心技术路线——大模型定义芯片。

这款芯片专为大模型设计,采用超大核NPU架构,核内数据交互对比核间数据交互,互联速率有TB/s数量级的提升;多级缓存架构支持大容量、高并发特性,可降低推理时延与功耗。芯片内置高精度大模型专用算子加速引擎,针对Layernorm、Softmax、Transpose等Transformer大模型关键算子进行硬件优化,原生支持FP16/FP32高精度向量计算,可部署模型参数量实现10倍提升,计算利用率达98.7%。

与行业旗舰产品在大模型性能相当的条件下对比,X7 Ultra内存带宽消耗下降80%,推理能效提升100%,官方公布的量产模型实测对齐度为99.99%。在功耗和散热要求严苛的车端环境,这组数据比单纯的TOPS数字更具实战价值。

X7 Ultra还中国首发量产Armv9车规级CPU,性能提升20%、能效提升10%,大集群架构提升了多核协同与L3访存性能,集成全新SVE2向量处理引擎,相比上一代NEON具有更强的DSP性能。700TOPS的等效算力对标英伟达Thor-U。

传统路径是先做通用芯片、再让算法适配硬件,新芯航途则从Momenta全栈算法的实际运行需求出发,倒推芯片的架构、存储与数据流转,在规划设计阶段就把对算法的理解植入芯片架构,同等功耗约束下留给真实模型的有效算力更充裕。合作方面,Momenta提供全栈算法,新芯航途提供车规级SoC,QNX提供安全操作系统,三方联合方案已通过德国莱茵ISO 26262 ASIL D功能安全认证。此前三方已联合打造自动驾驶平台。

编辑:王锋

THE END