NVIDIA申请专利用大模型对话排查GPU性能

IT时代网9月25日消息,NVIDIA提交了一项专利申请,计划用大语言模型构建聊天界面,让开发者用自然语言排查GPU性能问题。

该系统被称为基于LLM的聊天界面,连接NVIDIA现有的GPU性能分析工具。开发者可以直接提问:某个工作负载为什么慢、哪部分在拖性能后腿、同一程序两个版本的性能差异在哪。AI收到问题后会自动检索相关文档、检查已采集的GPU性能数据,并生成Python或其他脚本来提取回答问题所需的信息,最终给出分析结论。

这套思路类似MCP式的AI工作流:语言模型不依赖自身已有知识,而是调用外部工具获取实时数据。专利覆盖范围不限于游戏优化,还包括GPU通用计算程序、计算内核及其他工作负载。

该系统不会自动修复代码,而是帮开发者更快定位瓶颈。NVIDIA想让AI充当中间层,降低分析门槛——现代GPU架构复杂,并非每个开发者都有足够的性能分析经验或工具来解读GPU性能数据。

此前NVIDIA App中的Project G-Assist已支持文字或语音提问,能报告GPU使用率、温度、频率、功耗和帧率,还可推荐或调整游戏画面设置。但G-Assist面向普通玩家,功能限于读取系统状态;此次专利面向开发者,深入到代码和性能数据层面,分析的是GPU工作负载本身的瓶颈。

注:本文中包含AI辅助创作的内容。

编辑:林一舟

THE END