物理仿真 vs 世界模型的两种失败模式
概念与方法世界模型
仿真物理对但画面假,世界模型画面真但物理可能错,评测需分开设计
定义与机制
两条合成数据路线的失败方式正交。物理仿真(Isaac、MuJoCo、Genesis)由引擎保证接触和刚体行为,动作标注天然精确,失败在视觉迁移。视频世界模型生成的轨迹视觉真实,但无硬物理约束,动作标签要靠逆动力学或潜在动作反推,成败判定常由模型自己给。
证据与数字
- 对照:仿真成本前期重(资产场景)、复用后边际低;世界模型前期需基座加少量真机,边际生成贵(DreamGen 推算约 0.34 L40 GPU 小时/条)。
- 世界模型典型失败是幻觉成功,PlayWorld 称为最常见失败 [2]。
- 两条路可在 NVIDIA 栈内串联:Cosmos Transfer 2.5 接收 Isaac 渲染作控制输入 [1]。
- 评测相关性:SC3-Eval Pearson 0.929、WorldEval 平均 0.942 均为自报(WorldEval 表中 real-to-sim 基线平均 0.411)。
争议或反方
- 相关系数多为论文自报,增益多依赖少量真机数据。
- WM-DAgger 用真实专家末帧锚定来过滤不合理合成轨迹 [3],说明纯生成数据尚不能直接用。
来源
相关卡片
sim2real gap概念与方法
仿真训练的策略到真机性能下降,视觉与接触动力学是两大来源
幻觉成功概念与方法
世界模型在动作错误时仍生成任务成功的画面,污染想象中的 RL
DreamGen / DreamDojo论文与基准
视频世界模型加逆动力学生成神经轨迹的四阶段方法,及 4.4 万小时人类视频预训练的 DreamDojo
SC3-Eval论文与基准
自一致视频世界模型评测,7 个真机 VLA 上 Pearson 0.929
WorldEval / dWorldEval论文与基准
用 Policy2Vec 把视频模型变成策略评测器,三任务 Pearson 均值 0.942
Isaac Sim / Isaac Lab工具与格式 · 美国
NVIDIA GPU 并行物理加 RTX 渲染的仿真器与机器人学习框架
NVIDIA Cosmos(Predict / Transfer)工具与格式 · 美国
NVIDIA 开源世界基础模型家族,Predict 生成视频,Transfer 做 sim2real 增强
卡片整理 2026-10-14。公司自报数据标“公司口径”;⚠️ 为未经独立核实。