World model
学习 (o,a)→o'、r、done 或未来视频。它回答:如果我这么做,世界会怎样?
世界模型和具身智能的论文经常混用“模型”两个字:有时指预测未来的 world model,有时指决策的 policy,有时指整个 agent。如果不先分清,你会把“能生成视频”误认为“能控制机器人”。
学习 (o,a)→o'、r、done 或未来视频。它回答:如果我这么做,世界会怎样?
学习 o→a。它回答:我现在应该怎么做?
输入图像、语言、状态,输出动作块。通常是 policy,不必然显式预测未来。
把感知、决策、动作和真实/仿真环境连成闭环。
Benchmark 是固定协议;challenge 是按官方指标排名的比赛。先看指标,再看榜单。
| 对象 | 本地代表 | 核心问题 |
|---|---|---|
| Video world model | Cosmos3-Nano | 未来画面是否合理? |
| Latent world model | Tiny RSSM | 低维状态能否预测未来? |
| VLA | SmolVLA | 语言+图像+状态如何输出动作? |
| Dataset | LeRobot PushT | 数据分布和 action 空间是什么? |
| Benchmark | gym-pusht | 闭环 return / coverage / success 如何? |
完成后,你应该能把“会预测”和“会行动”分成两条线,并知道它们可以组合。
DreamerV3 与 Cosmos 是理解两条主线的起点:DreamerV3、Cosmos。
把不理解的地方直接发给老师/agent,最好附上你观察到的现象和报错。