英伟达发布Minerva AIOps平台,面向AI工厂提供端到端可观测性
英伟达称该平台汇集GPU、网络、存储、调度器和工作负载的遥测数据,用专用AI模型定位故障根因,并提供自然语言运维助手;IREN、IBM、Jio、特斯拉等计划部署。
AI解读:英伟达发布Minerva,将其定位为面向AI工厂的AIOps平台,目标是把基础设施和工作负载的遥测数据汇总,用专用AI模型转化为可操作的洞察。
平台把GPU、SuperNIC、交换机、线缆和其上运行的作业映射成动态知识图谱,用于在数十万GPU规模的集群中把训练变慢追溯到具体部件。
英伟达称Minerva每小时分析数十亿数据点,学习正常行为、检测未见过异常、预测故障,并把大量告警合并为聚焦事件和可能根因;这些均为公司说法,未公布精度或效率数据。
Minerva内置AI助手并支持连接外部智能体工具,运维人员可用自然语言查询集群健康并获得修复建议,再由人工执行或通过基础设施API接入自动化。
IREN是英伟达列出的合作伙伴之一,其CTO称该平台让运维团队在一个视图中查看网络、GPU和作业。Aolani、Bitdeer AI、IBM、Jio、Lambda、Quake AI和特斯拉计划部署;戴尔、联想、超微将把它纳入AI工厂运维产品组合。
英伟达发布Minerva,这是一个面向AI工厂的AIOps平台。英伟达称,它汇集基础设施和AI工作负载的遥测数据,再借助专用AI模型把数据转成及时的、可操作的洞察,帮助团队更早发现问题并维持AI工厂的产出。
平台覆盖的范围
英伟达在博客中称,Minerva连接英伟达GPU、网络、存储、调度器和工作负载的信号,并构建动态知识图谱,把GPU、SuperNIC、交换机、线缆等基础设施与运行其上的作业进行逻辑映射。英伟达称,这种上下文能帮助运维人员把变慢的训练任务追溯到影响它的部件,即使集群有数十万个GPU。
英伟达把AI工厂的产出定义为“yield”,衡量指标包括GPU小时、有效吞吐(goodput)、集群正常运行时间和token产出。平台每小时分析数十亿个数据点,使用监督学习和无监督学习,学习正常行为、检测此前未见的异常并预测正在出现的故障。
助手与部署方
Minerva内置一个原生AI助手,并可连接外部智能体AI工具,提供基于实时遥测的自然语言界面。英伟达称,运维人员可以通过对话排查集群健康问题并获得修复建议;团队可以保留人工执行修复,也可以通过基础设施API和外部系统把Minerva接入自动化。
英伟达列出的计划部署方包括Aolani、Bitdeer AI、IBM、Jio、Lambda、Quake AI和特斯拉。戴尔、联想和超微将把Minerva纳入其AI工厂运维产品组合。IREN是英伟达点名的使用方之一,其首席技术官Denis Skrinnikoff称,Minerva让运维团队在一个视图中查看网络、GPU和作业,团队因此能把更多精力放在主动维护上。