英伟达发布用AI智能体教机器人走障碍的训练工作流,以Microduck为例
英伟达技术博客介绍一套在仿真中训练机器人导航与运动策略的工作流:本地RTX Spark负责规划与验证,云端Isaac Lab做强化学习,牛顿引擎模拟物理,Omniverse库生成视觉观测;示例中在单张RTX PRO 6000 Blackwell工作站GPU上并行运行4096个环境训练。
AI解读:这套流程的适用对象是希望在仿真中先完成感知与行走策略训练的机器人开发者。英伟达给出的流程覆盖资产制作、环境搭建、策略训练与本地评估,文中明确硬件部署细节不在该文范围内。
训练规模有一项具体数字:坡度与障碍适应训练使用4096个并行环境,运行在NVIDIA RTX PRO 6000 Blackwell工作站版GPU上,起点是Isaac Lab的Microduck示例环境和一个已预训练的运动策略。
效果边界由作者说明:仿真训练只是为实体部署打基础,仿真与真实行为的差异仍需进一步调整;文中提到BAM执行器模型和域随机化可缩小差距,但最终仍需硬件测试来确定后续调整方向。
该文是英伟达技术博客的工作流介绍,属于作者与厂商对自家工具链的说明,未给出该策略在实体机器人上的量化评测数据。
英伟达技术博客发布一篇工作流文章,以参考机器人Microduck为例,演示如何借助AI智能体在仿真中搭建障碍赛道、训练导航与运动策略并在本地评估。文章作者为Gabriele Leone。
流程分为规划、生成仿真资产、组装环境、训练策略、本地验证和面向实体部署的准备几个阶段。英伟达称,该流程可作为开发者适配自家机器人与任务的基础。
分工:本地规划,云端训练,本地评估
按文章描述,NVIDIA RTX Spark作为本地开发枢纽,支持AI辅助的规划与策略验证;NVIDIA Isaac Lab在云端提供强化学习框架;Newton负责建模物理行为;NVIDIA Omniverse库通过RTX渲染生成仿真视觉观测。训练好的策略回到RTX Spark,在Isaac Sim中做本地评估。
规划阶段由Hermes和NVIDIA Nemotron 3.5 Bolt把一段关于障碍赛道的提示词转成分步项目计划;本地图像生成模型产出赛道概念图,随后分析图像并列出可复用资产清单,每个资产带标识、可见特征描述和裁剪参考图。Hermes将计划、机器人资料、概念图、资产清单与说明打包,自动交给Astra继续执行。
资产制作与环境组装
Astra使用云端图像编辑提高裁剪参考图的分辨率,并与原始裁剪图比对轮廓、比例、颜色和特征是否一致。随后由FreeCAD构建基础几何与可编辑CAD结构,Blender补充细节和材质,二者在本地以程序化方式执行;输出为可编辑模型和USD资产。
文章还提到可从SimReady Central Library取用资产,该库免费、无需授权,含2000多个可直接用于仿真的OpenUSD资产。环境在Isaac Sim中组装,机器人关节结构通过links、joints和actuators定义,仿真传感器观测提供前方障碍信息。
- SimReady Central Library:2000多个仿真就绪OpenUSD资产,免费且无需授权
- 资产工具链:Astra编排FreeCAD建模与Blender材质,本地程序化执行
训练与评估的具体设置
训练在Isaac Lab中进行,该开源框架并行运行多个Microduck仿真,用强化学习算法更新共享策略。每个任务需定义机器人观测内容、可执行动作和奖励。物理部分由开源GPU加速引擎Newton模拟。
文章给出的坡度与障碍实验,起点是Isaac Lab的Microduck示例环境和一个已预训练的运动策略,使用头部相机深度与机器人状态观测做额外训练。该次适应训练使用4096个并行环境,硬件为NVIDIA RTX PRO 6000 Blackwell工作站版GPU。
训练完成后在RTX Spark上的Isaac Sim中评估选定策略,记录完成赛道、摔倒、碰撞和进度停滞的情况,并结合rollout视频指导环境或训练设置迭代。
英伟达对仿真到现实差距的说明
文章将实体硬件部署列为该文范围之外,只说明准备工作的起点是让仿真反映真实机器人行为。Isaac Lab支持Better Actuator Models(BAM)来建模伺服响应,包括指令延迟、机械背隙和共享电池供电时的电压下降;将这些设置与Microduck实测值匹配,有助于缩小仿真到现实的差距。
作者同时指出,即使模型经过仔细校准,真实机器人的传感器、地面接触和控制时序仍可能不同,Isaac Lab的域随机化会在合理范围内变化物理参数和观测噪声。文章末尾展示了一段在Isaac Lab训练的运动策略驱动实体Microduck行走的画面,但未给出该策略在实体上的量化评测结果。