KAIST联合Meta提出AI数据中心新架构

IT时代网9月9日消息，据Chosun报道，韩国科学技术院、校内初创企业Panmnesia与Meta联合提出一种下一代AI数据中心架构，把中央处理器、AI加速器与内存连接成单一系统。韩国科学技术院9日介绍，该校电气与电子工程系郑明秀教授团队与Panmnesia研究人员、Meta研究团队共同完成的论文，今年8月发表在国际学术期刊《Nature Reviews Electrical Engineering》上。论文的出发点是当下AI训练的瓶颈：生成式AI与大规模模型常常需要数百到数千个加速器同时工作，加速器数量越多，设备之间的数据传输延迟就越可能成为决定整体算力表现的关键。研究团队的解法是依托CXL这一高速互联与资源共享接口标准。传统数据中心靠服务器之间的网络连接算力，新架构则压低服务器之间的边界，把中央处理器、加速器与内存组织进同一个连接域，让整个数据中心像一台大型计算系统那样运行。与主要面向机架内加速器互联的英伟达NVLink、UALink不同，该方案把CXL的连接范围扩展到包括CPU和内存在内的整个数据中心。研究团队称，这种结构在单一连接域内最多可配置960个加速器，约为当前基于NVLink机架的13倍；数据传输延迟可从传统网络架构的微秒级降至数百纳秒级。中央处理器、加速器与内存还能作为独立资源调度，某个器件故障只需更换该部件，闲置的算力与内存资源也可分配给其他任务。

编辑：林一舟