英伟达推出Minerva平台监测AI工厂运行状态
IT时代网10月23日消息,英伟达发布名为 Minerva 的智能运维平台,面向人工智能工厂场景,把基础设施与应用负载的遥测数据打通,用专门的模型把数据转换成可执行的判断,帮助运维团队提前发现问题。
人工智能工厂规模庞大,大量图形处理器通过高速网络协同完成训练与推理。在这种规模下,单个部件性能下降就可能拖慢整个作业,预警信号往往并不明显,例如某块加速卡温度高于同批设备,或者某块固态硬盘在负载下出现性能衰减。
Minerva 的关注指标被称为人工智能工厂产出,涵盖图形处理器有效工时、有效吞吐、集群在线率和词元产量。平台会构建动态知识图谱,把加速卡、网卡、交换机、线缆以及运行其上的作业逻辑关联起来,运维人员可以据此把一次训练变慢追溯到具体部件,即便集群规模达到数十万块加速卡。
平台每小时分析数十亿个数据点,采用有监督与无监督相结合的方式学习正常行为特征,识别此前未出现过的异常,预测即将发生的故障,并按照工厂拓扑结构关联相关事件。面对告警风暴时,它会把相关事件归并成单一事项并给出可能的根因。
Minerva 内置对话式助手,也可以接入外部智能体工具,运维人员通过自然语言查询集群健康状况并获得处置建议,既可选择人工确认后再执行,也可通过接口对接自动化流程。
IREN 是首批采用该平台的企业之一,其首席技术官表示,运维团队由此获得跨网络、加速卡与作业的统一视图,工作重心得以从排障转向主动维护。除 IREN 外,Aolani、Bitdeer AI、IBM、Jio、Lambda、Quake AI 与特斯拉也计划部署,戴尔、联想与超微将把该平台纳入各自的人工智能工厂运维方案。
注:本文配图由AI生成,文中包含AI辅助创作的内容。

编辑:林一舟