AMD HRX Loom三天将50个大模型移植消费级显卡

IT时代网11月14日消息,AMD工程师近期完成一项技术实验:利用全新的HRX Loom软件与智能体AI工作流,在短短三天内将50个热门大模型成功迁移至AMD消费级显卡硬件。

此次实验由AMD工程师Jeremy Fowers和Ben Vanik主导。他们通过引入智能体AI工作流,让AI自主编写和优化适配AMD显卡的模型程序,在三到四天内完成了涉及18种不同架构的50款热门模型的迁移。以往将这批模型逐一适配到特定硬件需要耗费数月时间。

性能测试中,实验团队在锐龙AI Max硬件上验证,处理32K Token长提示词时,HRX Loom的运行速度比主流的本地推理引擎ROCm后端提升1.5至2.1倍,相比Vulkan后端也有1.9倍优势。HRX Loom目前仍是实验性项目,不只面向GPU,同样支持CPU和NPU执行,实验结果已通过GitHub公开,AMD还提供loom-skills组件,可为编程智能体配备必要能力,使其能编写并向AMD客户端GPU部署优化后的模型程序。

注:本文中包含AI辅助创作的内容。

编辑:林一舟

THE END