VLA、WAM 与 SuperMimic：最新研究前沿与行动可控性
Frontier map VLA notebook Research portfolio Evaluation system
先解决命名混乱
最近论文常把 video generation、policy、world model、WAM 放在一起讲。判断它们时不要看名字，而要看接口：输入什么、输出什么、是否显式预测未来、未来预测是否会影响动作。
| 概念 | 接口 | 本质 | 常见误读 |
|---|---|---|---|
| VLA | image/language/state → action chunk | 通常是 policy；不必然显式预测未来。 | 把会输出动作等同于理解世界动态。 |
| World model | state/action → future state / observation / reward | 预测世界演化。 | 把视频好看等同于可用于控制。 |
| WAM | jointly predict future world + generate action | 把未来预测和可执行动作生成耦合在一个目标里。 | 把它当作 VLA 换名。 |
| SuperMimic | learned differentiable dynamics + imagined rollout + policy gradients | 用学习到的动力学模型加速 policy 优化。 | 以为它用了 differentiable simulator。 |
| Action controllability | same initial state + different actions → futures | 审计模型是否真的响应动作。 | 只看 expert 轨迹上的 MSE。 |
VLA 不是自动等于 world model；WAM 不是 VLA 换名，而是显式耦合 future prediction 与 action generation。
SuperMimic 在做什么
SuperMimic 学习一个共享的可微 humanoid dynamics model；这个模型从普通刚体仿真器 MuJoCo Warp 的 logged transitions 中拟合而来。policy 和 world model 在同一循环中训练，policy gradient 通过 learned model 的短 imagined rollouts 反传。官方项目页明确说明：它不对 simulator 微分，梯度不穿过 MuJoCo。
| 项目页报告 | 数字 | 课程解读 |
|---|---|---|
| 1 GPU × 3h | 超过 SONIC released checkpoint 的 return | 训练效率证据很强。 |
| GPU-hours | 声称相比 SONIC 128 GPUs × 7 days 减少超过 1000× | 硬件不同，仍需读 compute accounting。 |
| 129,514 motions | SONIC 179 failures；SuperMimic 1 GPU×3h 25 failures；2 GPUs×9.8h 0 failures | 这是 motion coverage / scaling，不是 unseen-task generalization。 |
| World model error | 从 1 到 264 小时 motion 数据保持稳定 | 支持 scaling 叙事，但仍要看任务与分布。 |
| 真机 | 一个 policy 转移到 physical Unitree G1 | 是 sim-to-real 证据，不等于所有 humanoid 任务已解决。 |
项目页说明 129,514 个 benchmark motions 对两种方法都是 training motions，所以主结果应解释为大规模 motion library 上的 coverage、scaling 与训练效率提升，而不是 unseen-task generalization 的直接证明。World model 也不是全局冻结；它只在单次 policy update 内固定，跨 iteration 持续更新。Imagined rollout 为 32 步，超出部分由 critic bootstrap；没有 critic 时 16 步及以下训练失败。
WAM 与 DreamZero
World-Action Models survey 把 WAM 定义为同时做 future world prediction 和 executable action generation 的系统，并用 action alignment、world/action factorization、multi-view consistency、long-horizon memory、neural simulation、efficient inference 等问题组织这个方向。
DreamZero 是 WAM 路线的代表：基于 pretrained video diffusion backbone，联合建模未来 video 和 action。论文报告在真实机器人实验中，对新任务/环境的泛化相比 SOTA VLA 超过 2× 提升；通过系统和模型优化，让 14B autoregressive video diffusion model 以 7Hz 做 closed-loop control；还报告跨 embodiment 的 video-only demonstration 与少量 play data 适应。
DreamZero 不能证明“所有 video model 都天然是 policy”。它支持的是：当模型显式联合预测未来视频与动作，并把闭环延迟做进去时，video backbone 可以成为 action 系统的一部分。
实践：审计 action controllability
Do Robotic World Models Really Follow Actions? 指出：现有模型在 expert 动作上可能表现合理，但在 diverse off-expert trajectories 上可能忽略指令或生成无效 rollout。你可以把这个思想转成最小实验。
# 实验设计，不只是跑脚本
1. 固定同一个 initial state
2. 构造 K 组动作序列：
- expert replay
- 反向动作
- 左右扰动
- 随机动作
- 恒定动作
3. 每组动作都 rollout H 步
4. 记录：
- latent distance
- decoded image LPIPS / SSIM
- state MSE / trajectory alignment
- 视觉合法性人工分类
5. 画出 divergence vs horizon
6. 对照 action-conditioned model 与 unconditional predictor| 现象 | 可能解释 |
|---|---|
| 不同动作的未来几乎不分化 | 模型可能只学到了数据惯性与时间延续。 |
| 短期分化、长期合并 | action controllability 随 horizon 衰减。 |
| latent 分化但图像不变 | decoder 可能丢掉了 latent 中的动作相关信息。 |
| 图像剧烈变化但物理无效 | 生成质量与 dynamics 正确性不是一回事。 |
把结果写成 `action_controllability_report.md`：K 组动作、H 个 horizon、每个 case 的视频/GIF、指标表和失败解释。它可以直接成为 Research Portfolio 的 R2/R5 证据。
这门课如何接上新前沿
- Lesson 0006–0007：tiny RSSM 已经给你 latent dynamics 和 rollout 误差的基础。
- Lesson 0008–0009：policy 与 closed-loop evaluation 告诉你为什么只在想象中变好还不够。
- Lesson 0010–0011：VLA 接口与 embodiment mismatch 帮你识别 WAM 要解决的 action alignment 问题。
- Lesson 0014：研究组合把这些前沿问题变成可执行 claim、baseline 和失败分析。
检索练习
SuperMimic 的 129,514 motion benchmark 结果最应该被解释为什么？
本课一手来源
SuperMimic：官方项目页 / arXiv:2610.28480；WAM：World-Action Models survey；DreamZero：World Action Models are Zero-shot Policies；action controllability：Do Robotic World Models Really Follow Actions?。
把不理解的地方直接发给老师/agent，最好附上你观察到的现象和报错。