David Ha 一周前分享了这个视频:内容是在中国北京举行的机器人运动会上一机器人 害羞的抱着脸跑 跑出了第一名:
https://x.com/ErenChenAI/status/2091714982572409241/video/1
而这个机器人公司(北京人形机器人创新中心(X‑Humanoid))的工程师们说这种跑姿并不是提前预先设计出来的姿势,而是在机器人训练的元宇宙里自己演化出来的。
而这个 机器人训练的元宇宙 软件 情况如下:
“元宇宙” 训练底座:NVIDIA Omniverse(底层平台),仿真软件是 Isaac Sim,强化学习训练框架 Isaac Lab,自研上层算法框架 Tien‑Kung‑Lab北京人形机...。
- Omniverse:英伟达的 3D / 数字孪生底层平台,大家口语叫它机器人的 “元宇宙” 环境,Isaac Sim 就跑在它之上NVIDIA。
- Isaac Sim:高保真物理仿真器,在这里完成千万次并行强化学习试错,诞生出这个捂脸跑姿;训练完还会做 Sim2Sim 交叉验证,兼容 MuJoCo 再校验一遍策略,再部署到真实实体机器人上...。
- Tien‑Kung‑Lab:北京人形机器人创新中心开源,基于 Isaac Lab 封装,就是天工系列机器人的运动控制算法栈北京人形机...。
简单链路:
Omniverse(底层元宇宙平台) → Isaac Sim(物理仿真) + Isaac Lab(RL训练) → Tien‑Kung‑Lab(人形步态算法) → Sim2Real迁移到真机天工Omni
David Ha 也在x上分享了文字 “Reminds me of novel locomotion policies discovered in MuJoCo environments, except that they work in the real world!(让我想起了在 MuJoCo 环境中发现的新颖运动策略,只不过它们在现实世界中也能生效!)” 表示对这次运动会上的此机器人的表现表示赞叹。
MuJoCo vs Omniverse‑IsaacSim‑IsaacLab完整对比
回顾天工Omni:主训练栈是 Omniverse → Isaac Sim(PhysX) + Isaac Lab;同时会把策略导出到MuJoCo做二次校验动力学,用来排查仿真‑现实鸿沟(sim‑to‑real gap)。
基础概念厘清
MuJoCo(Multi‑Joint dynamics with Contact)
DeepMind维护的物理动力学引擎,核心做刚体/接触动力学求解,本身不是完整可视化元宇宙平台,渲染只是附带极简OpenGL窗口,没有RTX光线追踪、没有USD数字孪生场景系统。
- 格式:MJCF(XML);开源 Apache2.0;有CPU原生 + MJX(JAX GPU)后端。
- 强项:接触摩擦、逆动力学、可微分物理,学术界人形、灵巧手事实标准。
NVIDIA整套栈:Omniverse → Isaac Sim → Isaac Lab
- Omniverse:底层3D元宇宙/数字孪生底座,USD场景格式,RTX渲染生态,不是物理引擎;
- Isaac Sim:跑在Omniverse上的完整机器人仿真器,物理后端默认 PhysX5,带相机、激光雷达、域随机化、合成数据生成;
- Isaac Lab:上层开源RL训练框架,用来大规模并行跑强化学习任务(天工Omni捂脸跑就是在此训练)。
相同点
- 都做人形机器人强化学习仿真,输出策略都可以部署到真实机器人,都要面对 sim‑to‑real(仿真到现实)鸿沟;
- 都支持大规模并行环境;MuJoCo靠MJX/JAX,Isaac Lab靠GPU PhysX;
- 模型互通:Isaac Sim可以直接导入MuJoCo MJCF模型;Isaac Lab 3.0支持把MuJoCo‑Warp作为物理后端,不用启动Omniverse渲染也能跑训练;
- 都大量用于足式机器人步态涌现训练(像天工Omni这种“捂脸跑”的无预设涌现行为两种都能训出来)。
核心差异
| 对比维度 | MuJoCo | Omniverse+IsaacSim+IsaacLab |
|---|---|---|
| 定位 | 高精度动力学求解器,偏学术仿真内核 | 完整工业数字孪生仿真全栈:3D场景+物理+传感器+RL训练 |
| 物理引擎 | 自研凸优化接触求解器,摩擦/接触精度更高,适合精细抓取、灵巧手 | 默认PhysX5(脉冲式接触);也可插拔MuJoCo‑Warp;速度优先,接触细节略弱于原生MuJoCo |
| 渲染与传感器 | 仅简易OpenGL预览;无原生相机/激光雷达仿真,做视觉具身任务要自己写额外代码 | RTX实时光追、深度图、LiDAR、分割图原生支持,适合视觉端到端具身智能、合成数据集生成 |
| 场景系统 | MJCF(XML),适合单机器人;复杂大场景建模麻烦 | USD通用3D格式,可导入CAD、工业场景,团队协同数字孪生,元宇宙级大场景能力强 |
| 大规模并行 | CPU版有限;MJX(JAX‑GPU)可以极高吞吐,但没有渲染,只能跑状态动力学,看不到画面 | GPU原生,几千个人形并行环境同时带渲染+传感器,训练同时可以看仿真画面;硬件门槛高,仅限N卡 |
| 上手门槛 | 很低,pip install mujoco即可,跨平台,AMD也能跑 |
高;依赖NVIDIA显卡驱动,Omniverse套件体积大,USD概念学习成本高 |
| 开源协议 | Apache2.0完全开源 | Omniverse/Isaac Sim免费商用;Isaac Lab开源BSD‑3;底层Omniverse组件不开源 |
| 典型适合场景 | 学术论文、灵巧手精细接触、动力学分析、纯本体感知(关节力矩角度)的步态训练、做仿真基准校验 | 工业人形机器人、视觉+本体感知联合训练、数字孪生、真实世界复杂环境、需要相机激光雷达的具身智能(天工Omni的主栈) |
天工Omni的实际工作流(对应上面两套工具)
- 主训练:Omniverse + Isaac Sim(PhysX) + Isaac Lab,数千并行环境RL训练,涌现出捂脸跑的步态;
- 交叉验证:把同一机器人模型、奖励函数迁移进MuJoCo,复现步态,用来排查是不是PhysX物理引入的虚假仿真现象;
- Sim2Real部署:策略下发到实体机器人真机,再做少量真机微调。
关键点:捂脸跑这个涌现行为,两套仿真都能训出来;但天工团队是在Isaac生态完成主力大规模训练,MuJoCo用来校验动力学是否合理。
选型简单口诀
- 做灵巧手、接触摩擦、学术基准、纯动力学、不想绑定N卡:优先MuJoCo;
- 需要相机/激光雷达、大3D场景数字孪生、GPU大规模并行同时看画面、工业人形落地:Isaac全栈;
- 现在业界流行混合:Isaac做视觉大场景训练,MuJoCo做动力学校验,互相兜底。
Top comments (0)