AMD发布ROCm Loom统一编译CPU GPU NPU

IT时代网10月30日消息,AMD正式发布ROCm HRX Loom SDK v0.1,这是ROCm生态中一套全新的专用编译器与中间件栈,编译目标不再局限于GPU,而是直接扩展至AMD的CPU、GPU和NPU。

Loom最核心的突破在于编译速度。传统HIP路径依赖LLVM/clang子进程,Loom采用原生异步编译基底,能将异步设备内核直接编译为AMDGPU原生HSACO代码对象,耗时不到2毫秒,基本消除运行时编译开销。

架构支持方面,Loom目前可生成AMDGPU HSA代码用于GPU执行,同时支持SPIR-V/Vulkan实现跨平台运行;对x86和WebAssembly的支持仍在完善中,但已具备初步能力。Loom并非孤立工具,而是ROCm HRX系统的核心组件:HRX旨在替代传统HIP运行时栈,提供超低延迟运行时基底,Loom作为其编译器层,支持MFMA、WMMA等矩阵指令以及F8/F6/F4微量化格式。

开发者可通过pip直接安装hrx-loom包,无需完整ROCm SDK。SDK内置loom-fetch、loom-serve等命令行工具,可下载模型资源并通过HTTP在本地提供推理服务。作为ROCm HRX开源项目长期开发后的首个正式版本,Loom 0.1补齐了AMD编译基础设施的关键一环。

注:本文中包含AI辅助创作的内容。

编辑:林一舟

THE END