高通AI200推理加速器开放客户评估

IT时代网11月20日消息,高通当地时间本月17日宣布,携手AI私有云企业Cirrascale,向部分客户开放Dragonfly(飞龙)AI200推理加速器的评估,客户可通过云环境测试其AI工作负载在该芯片上的表现。

Dragonfly AI200是高通推出的首款机架级人工智能解决方案,单卡配备768GB LPDDR5X内存,支持PCIe Gen6纵向扩展与RoCE横向扩展。

其每个140kW液冷ORv3机架由56张卡组成,总内存达43TB,提供0.414 PB/s内存带宽,可在单一机架中运行10T级超大模型的推理,并降低总体持有成本。

注:本文配图由AI生成。本文综合自IT之家等,文中包含AI辅助创作的内容。

编辑:综合编辑

注:本文综合自IT之家等,文中包含AI辅助创作的内容。

编辑:林一舟

THE END