AMD联合Unsloth开放NPU本地推理 支持百余款智能体应用
IT时代网11月20日消息,AMD宣布与Unsloth合作,通过Unsloth Desktop为AMD锐龙AI平台的XDNA 2 NPU带来本地推理支持,超过100款兼容的智能体AI应用与工作流可接入NPU加速。
这是Unsloth Desktop首次支持NPU:其提供OpenAI兼容的API端点,兼容应用可借此调用运行在NPU上的模型;Hermes Agent、OpenClaw、Open WebUI、Cline、LangChain与GitHub Copilot等工具均在兼容列表中。
AMD表示,该集成为全天运行的AI助手与智能体提供低功耗推理选择,NPU承担支持的模型推理,CPU与GPU资源得以留给编排调度和其他应用功能。

编辑:刘宁
THE END