高通AI200推理加速器开放客户评估
IT时代网11月20日消息,高通当地时间本月17日宣布,携手AI私有云企业Cirrascale,向部分客户开放Dragonfly(飞龙)AI200推理加速器的评估,客户可通过云环境测试其AI工作负载在该芯片上的表现。
Dragonfly AI200是高通推出的首款机架级人工智能解决方案,单卡配备768GB LPDDR5X内存,支持PCIe Gen6纵向扩展与RoCE横向扩展。
其每个140kW液冷ORv3机架由56张卡组成,总内存达43TB,提供0.414 PB/s内存带宽,可在单一机架中运行10T级超大模型的推理,并降低总体持有成本。
注:本文配图由AI生成。本文综合自IT之家等,文中包含AI辅助创作的内容。
编辑:综合编辑

注:本文综合自IT之家等,文中包含AI辅助创作的内容。
编辑:林一舟
THE END