爱芯元智发布AX8860大算力芯片 256TOPS边缘算力底座
IT时代网10月13日消息,爱芯元智今日在2026中国国际工业博览会上发布AX8860系列大算力AI芯片,定位为大模型在边缘侧与端侧落地的算力底座。
规格方面,AX8860搭载16核Arm Cortex-A55 CPU与自研NPU,提供256 TOPS混合精度算力,原生支持FP4精度且不做稀疏化处理,最高配备128GB LPDDR5X内存,256-bit位宽下带宽达273GB/s,采用6nm制程,支持PCIe 5.0互联。设备形态覆盖额定功耗40W的专用模块与单槽PCIe卡,另有单槽四芯方案,通过256Gbps网络接口级联,双芯可达512 TOPS,四芯宣称最高1024 TOPS,级联扩展效率约80%。
软件生态方面,芯片支持vLLM、SGLang、PyTorch等主流推理框架,对ONNX与Hugging Face模型格式开箱即用,兼容OpenAI API服务接口,配套覆盖量化、转换、编译、调优与调试的完整工具链。爱芯元智同步发布了元曦模组A256S,并展出元曦系列推理卡与推理服务器。
性能对比上,官方披露在Qwen 27B模型测试中,AX8860的prefill速度比英伟达DGX Spark快25%,decode速度快30%。后续路线图还包括算力500 TOPS的Axera 8950,以及算力超过700 TOPS的下一代8970芯片。爱芯元智创始人兼董事长仇肖莘在发布现场表示,要做客户长期稳定的算力底座,让企业聚焦业务创新。

注:本文综合自IT之家等,文中包含AI辅助创作的内容。
编辑:林一舟