产品NVIDIA Technical Blog·原文 2026年9月17日

英伟达演示多智能体流水线:把Blender场景变成Isaac Sim可用的SimReady OpenUSD世界

英伟达技术博客给出了一套从Blender到Isaac Sim/Isaac Lab的智能体工作流:Codex负责编排,NemoClaw部署Hermes子智能体,Omniverse Libraries提供OpenUSD、ovphysx、ovrtx和SimReady校验工具。

AI解读:这条新闻的核心不是又一个智能体框架,而是一套把3D美术资产变成机器人训练环境的流水线。据英伟达技术博客,Codex负责统筹任务,NemoClaw部署的子智能体调用Omniverse Libraries,完成语义标签、物理属性、传感器配置、视觉预检和SimReady校验,最后交给Isaac Sim或Isaac Lab。

为什么需要它:机器人训练真正的瓶颈往往出现在更早一步——没有可训练、符合仿真要求的世界。博客列出的常见问题包括46个物体缺少碰撞网格、12个可抓取物体被标记为静态、7个碰撞网格过于复杂、3个道具悬浮在地板上。这些是重复且容易出错的准备工作,正好适合智能体处理。

对机器人仿真工程师来说,直接变化是繁琐的准备流程变成有校验关卡的多智能体工作流。Codex或Claude做统筹,NemoClaw子智能体做专业判断,Omniverse Libraries负责实际修改、渲染、校验。安全且机械的问题自动修复,依赖开发者意图的模糊决策会带上下文升级给人。

仍受限制的地方:这套流程目前是博客中演示的参考工作流,不是开箱即用的产品。它的有效性依赖正确的目标定义和校验配置,模糊标签或物理行为仍需要人类判断。没有公开的节省时间或成功率数据,所以能省多少力还无法量化。

英伟达发布了一篇技术博客,演示如何用多智能体工作流把Blender场景准备成可用于机器人仿真的SimReady OpenUSD世界,最终交付给NVIDIA Isaac Sim或NVIDIA Isaac Lab。

工作流中,Codex(由OpenAI GPT-6 Astra驱动)负责统筹任务、解读结果并引导迭代;通过NVIDIA NemoClaw部署的Hermes子智能体使用Omniverse Libraries检查场景、编写仿真元数据、配置物理属性并渲染视觉预检视图。

博客称,机器人训练经常卡在更早的环节:没有仿真就绪的世界。把3D场景做到可训练状态的工作繁琐、耗时,且常常不在机器人仿真工程师的职责范围内。

演示使用The Junk Shop场景(作者Alex Trevino,原始概念Anais Maamar),从Blender出发,最终输出SimReady OpenUSD世界。

为什么3D场景准备会成为瓶颈

博客提出的问题很具体:资产已经由3D美术在Blender中创建,但它能用于仿真吗?物体是否已标注?碰撞网格是否正确?材质对仿真是否有意义?传感器是否放置和配置?场景能否干净地导出为USD?机器人能否感知目标物体?场景能否在进入Isaac Sim或Isaac Lab调试前通过校验?

博客称,这些准备工作枯燥、重复、容易出错,正是智能体系统应该帮忙的工作,前提是它们有合适的工具。使用Omniverse Libraries的目的,就是把智能体构建SimReady世界所需的工具集成进来。

智能体的分工:一个统筹者,多个专业角色

通用智能体如ChatGPT的Codex或Anthropic的Claude Cowork可以识别Blender场景需要被做成仿真就绪,但仅识别不够。博客称,智能体必须能对场景采取行动。

博客列出智能体需要能做的事:检查Blender场景、识别缺失的仿真元数据、添加语义标签、配置传感器、编写碰撞形状和物理属性、渲染视觉预检视图、运行SimReady校验、自动修复安全的问题、把模糊决策升级给人类。

在实际配置中,Codex使用Astra把开发者目标翻译成任务、识别依赖并审查Hermes子智能体的结果。NemoClaw为构建这些专业子智能体提供参考架构,子智能体可以使用Hermes、OpenClaw或LangChain等开源智能体框架,并配置不同的NVIDIA Nemotron模型用于视觉、推理和工具使用。

博客给出的模式是:Codex或Claude统筹,NemoClaw智能体推理,Omniverse Libraries执行。每个子智能体拥有具体任务和验收标准,安全且机械的问题自动修复,依赖开发者意图的决策会带着上下文和提议的下一步升级给人。

从Blender到USD:八个步骤

博客先要求明确主目标,包括输入、期望输出、目的地和校验标准:输入是Blender场景,目标是准备用于机器人仿真,输出是基于USD的仿真就绪世界,目的地是Isaac Sim或Isaac Lab,校验是视觉预检加SimReady校验。

第一步是通过Blender MCP检查场景。子智能体连接Model Context Protocol服务器,调用工具检查物体、集合、变换、材质、相机、灯光和场景元数据,输出结构化清单作为共享上下文。博客给出的示例输出是142个物体、37个材质,缺失项包括语义标签、碰撞网格、相机传感器和物理材质。

第二步是转向USD作为契约。Blender是创作环境,USD是仿真交接格式,为智能体和下游工具提供共享的结构化世界表示。USD的分层非破坏性组合让智能体可以添加标签、物理元数据、传感器定义、材质和校验数据,而不破坏原始创作。博客给智能体构建者的规则是:如果另一个智能体或模拟器以后需要依赖它,就把它写入USD。

第三步是添加语义标签。语义标注智能体把匿名网格变成任务感知对象:货架、箱子、地板、障碍物、可抓取物体、机器人目标。它可以依据物体名称、层级、形状和上下文推断标签,但也会标记不确定性,示例是“标记了118个prim,9个标签需要审查”。

第四步是让材质仿真感知。在Blender里看起来没问题的材质,对仿真可能不完整。材质智能体检查视觉材质并写入仿真相关元数据,在仓库场景中就是识别金属货架、纸箱、塑料箱、混凝土地面、橡胶轮或玻璃面板。目标不是更好看的材质,而是给仿真和校验更多有用信息。

第五步是尽早编写传感器。相机和激光雷达配置会决定机器人能观察到什么、生成什么数据、训练场景是否反映真实任务。传感器子智能体可以写入位置、朝向、视场、轮询率、范围、分辨率和目标帧。博客称这能在训练开始前暴露问题:机器人能看到目标吗?传感器被挡住吗?视场有用吗?训练物体在预期视角下可见吗?

第六步是用ovphysx处理物理就绪。此时场景不再只是视觉的,物体有了碰撞形状、质量、摩擦、刚体行为和交互规则。ovphysx子智能体添加或校验碰撞网格、静态碰撞体、刚体、质量属性、摩擦、恢复系数、物理材质以及可移动与固定物体。博客列出的常见失败包括46个物体缺少碰撞网格、12个可抓取物体标记为静态、7个碰撞网格过于复杂、3个道具悬浮在地板上。

第七步是用ovrtx做预检循环。校验能告诉智能体场景结构上可接受,但渲染才能显示场景是否可用。ovrtx智能体生成机器人相机和审查视图,检查目标是否可见、标签是否附着在可见物体上、材质渲染是否正确、光照是否物理合理、相机是否被遮挡或裁剪、物体尺寸是否合理。如果带标签的目标不在机器人相机视图中,Codex可以要求传感器和场景检查子智能体检查相机朝向、裁剪设置和可能的遮挡物,修正后再次渲染。

第八步是运行SimReady校验。校验智能体针对目标配置运行SimReady校验,作为工作流的验收关卡。SimReady Foundation定义了仿真就绪USD内容的标准和校验配置。如果失败,报告变成修复智能体的任务清单;如果通过,场景可以交接给Isaac Sim或Isaac Lab。博客给出的示例报告是:校验失败,14个问题,其中10个可自动修复,4个需要审查。人类批准预期行为后,智能体应用修复并重新运行校验。

信息来源