微软副总裁开源GPU任务管理器

IT时代网11月9日消息,微软副总裁Scott Hanselman在GitHub上开源了一款名为gputaskman的GPU任务管理器工具,支持Windows、Linux和macOS三端。

这款工具可以逐进程显示GPU使用率、显存占用、活跃运行时等数据,并专门拆解AI/LLM工作负载的详细信息。Hanselman表示,开发它的初衷就是搞清楚GPU里到底在跑什么、显存被谁吃掉了。

工具采用终端式界面。从他的系统截图看,占用显存最多的是桌面窗口管理器,此外还有AI/LLM应用和多个Windows系统进程。

选中llama-server.exe进程后,底部信息栏会显示当前加载的模型为Qwen3-0.6B,并拆解模型权重、KV缓存、参数量等细项,本地运行大模型不用再同时开多个工具查看。

gputaskman最新版本为v0.3.0,提供Windows便携版下载。Hanselman还透露,类似GPU监控功能未来有望原生集成到Windows系统中。26H2上持续优化系统内存占用等工作微软近期也在同步推进。

注:本文中包含AI辅助创作的内容。

编辑:陈帅

THE END