DEV Community

cognitalk
cognitalk

Posted on

The Shy‑Looking Champion: Tiangong Omni’s Viral Face‑Covering Sprint

David Ha 一周前分享了这个视频:内容是在中国北京举行的机器人运动会上一机器人 害羞的抱着脸跑 跑出了第一名:

https://x.com/ErenChenAI/status/2091714982572409241/video/1

而这个机器人公司(北京人形机器人创新中心(X‑Humanoid))的工程师们说这种跑姿并不是提前预先设计出来的姿势,而是在机器人训练的元宇宙里自己演化出来的。

而这个 机器人训练的元宇宙 软件 情况如下:

“元宇宙” 训练底座:NVIDIA Omniverse(底层平台),仿真软件是 Isaac Sim,强化学习训练框架 Isaac Lab,自研上层算法框架 Tien‑Kung‑Lab北京人形机...。

  • Omniverse:英伟达的 3D / 数字孪生底层平台,大家口语叫它机器人的 “元宇宙” 环境,Isaac Sim 就跑在它之上NVIDIA。
  • Isaac Sim:高保真物理仿真器,在这里完成千万次并行强化学习试错,诞生出这个捂脸跑姿;训练完还会做 Sim2Sim 交叉验证,兼容 MuJoCo 再校验一遍策略,再部署到真实实体机器人上...。
  • Tien‑Kung‑Lab:北京人形机器人创新中心开源,基于 Isaac Lab 封装,就是天工系列机器人的运动控制算法栈北京人形机...。

简单链路:
Omniverse(底层元宇宙平台) → Isaac Sim(物理仿真) + Isaac Lab(RL训练) → Tien‑Kung‑Lab(人形步态算法) → Sim2Real迁移到真机天工Omni

David Ha 也在x上分享了文字 “Reminds me of novel locomotion policies discovered in MuJoCo environments, except that they work in the real world!(让我想起了在 MuJoCo 环境中发现的新颖运动策略,只不过它们在现实世界中也能生效!)” 表示对这次运动会上的此机器人的表现表示赞叹。

MuJoCo vs Omniverse‑IsaacSim‑IsaacLab完整对比

回顾天工Omni:主训练栈是 Omniverse → Isaac Sim(PhysX) + Isaac Lab;同时会把策略导出到MuJoCo做二次校验动力学,用来排查仿真‑现实鸿沟(sim‑to‑real gap)。

基础概念厘清

MuJoCo(Multi‑Joint dynamics with Contact)

DeepMind维护的物理动力学引擎,核心做刚体/接触动力学求解,本身不是完整可视化元宇宙平台,渲染只是附带极简OpenGL窗口,没有RTX光线追踪、没有USD数字孪生场景系统。

  • 格式:MJCF(XML);开源 Apache2.0;有CPU原生 + MJX(JAX GPU)后端。
  • 强项:接触摩擦、逆动力学、可微分物理,学术界人形、灵巧手事实标准。

NVIDIA整套栈:Omniverse → Isaac Sim → Isaac Lab

  1. Omniverse:底层3D元宇宙/数字孪生底座,USD场景格式,RTX渲染生态,不是物理引擎;
  2. Isaac Sim:跑在Omniverse上的完整机器人仿真器,物理后端默认 PhysX5,带相机、激光雷达、域随机化、合成数据生成;
  3. Isaac Lab:上层开源RL训练框架,用来大规模并行跑强化学习任务(天工Omni捂脸跑就是在此训练)。

相同点

  1. 都做人形机器人强化学习仿真,输出策略都可以部署到真实机器人,都要面对 sim‑to‑real(仿真到现实)鸿沟;
  2. 都支持大规模并行环境;MuJoCo靠MJX/JAX,Isaac Lab靠GPU PhysX;
  3. 模型互通:Isaac Sim可以直接导入MuJoCo MJCF模型;Isaac Lab 3.0支持把MuJoCo‑Warp作为物理后端,不用启动Omniverse渲染也能跑训练
  4. 都大量用于足式机器人步态涌现训练(像天工Omni这种“捂脸跑”的无预设涌现行为两种都能训出来)。

核心差异

对比维度 MuJoCo Omniverse+IsaacSim+IsaacLab
定位 高精度动力学求解器,偏学术仿真内核 完整工业数字孪生仿真全栈:3D场景+物理+传感器+RL训练
物理引擎 自研凸优化接触求解器,摩擦/接触精度更高,适合精细抓取、灵巧手 默认PhysX5(脉冲式接触);也可插拔MuJoCo‑Warp;速度优先,接触细节略弱于原生MuJoCo
渲染与传感器 仅简易OpenGL预览;无原生相机/激光雷达仿真,做视觉具身任务要自己写额外代码 RTX实时光追、深度图、LiDAR、分割图原生支持,适合视觉端到端具身智能、合成数据集生成
场景系统 MJCF(XML),适合单机器人;复杂大场景建模麻烦 USD通用3D格式,可导入CAD、工业场景,团队协同数字孪生,元宇宙级大场景能力强
大规模并行 CPU版有限;MJX(JAX‑GPU)可以极高吞吐,但没有渲染,只能跑状态动力学,看不到画面 GPU原生,几千个人形并行环境同时带渲染+传感器,训练同时可以看仿真画面;硬件门槛高,仅限N卡
上手门槛 很低,pip install mujoco即可,跨平台,AMD也能跑 高;依赖NVIDIA显卡驱动,Omniverse套件体积大,USD概念学习成本高
开源协议 Apache2.0完全开源 Omniverse/Isaac Sim免费商用;Isaac Lab开源BSD‑3;底层Omniverse组件不开源
典型适合场景 学术论文、灵巧手精细接触、动力学分析、纯本体感知(关节力矩角度)的步态训练、做仿真基准校验 工业人形机器人、视觉+本体感知联合训练、数字孪生、真实世界复杂环境、需要相机激光雷达的具身智能(天工Omni的主栈)

天工Omni的实际工作流(对应上面两套工具)

  1. 主训练:Omniverse + Isaac Sim(PhysX) + Isaac Lab,数千并行环境RL训练,涌现出捂脸跑的步态;
  2. 交叉验证:把同一机器人模型、奖励函数迁移进MuJoCo,复现步态,用来排查是不是PhysX物理引入的虚假仿真现象;
  3. Sim2Real部署:策略下发到实体机器人真机,再做少量真机微调。

关键点:捂脸跑这个涌现行为,两套仿真都能训出来;但天工团队是在Isaac生态完成主力大规模训练,MuJoCo用来校验动力学是否合理。

选型简单口诀

  • 灵巧手、接触摩擦、学术基准、纯动力学、不想绑定N卡:优先MuJoCo;
  • 需要相机/激光雷达、大3D场景数字孪生、GPU大规模并行同时看画面、工业人形落地:Isaac全栈;
  • 现在业界流行混合:Isaac做视觉大场景训练,MuJoCo做动力学校验,互相兜底。

Top comments (0)