课程总目录Lesson 0001 · Module A · Orientation
学习进度 0%
Module A · Orientation

建立世界模型与具身智能的心智地图

15–20 分钟 · 目标:能用一句话说清 world model、policy、VLA、dataset、benchmark、challenge 的边界。

Basic intro Benchmark map

为什么这张地图重要

世界模型和具身智能的论文经常混用“模型”两个字:有时指预测未来的 world model,有时指决策的 policy,有时指整个 agent。如果不先分清,你会把“能生成视频”误认为“能控制机器人”。

World model

学习 (o,a)→o'、r、done 或未来视频。它回答:如果我这么做,世界会怎样?

Policy

学习 o→a。它回答:我现在应该怎么做?

VLA

输入图像、语言、状态,输出动作块。通常是 policy,不必然显式预测未来。

Embodied AI

把感知、决策、动作和真实/仿真环境连成闭环。

Benchmark / Challenge

Benchmark 是固定协议;challenge 是按官方指标排名的比赛。先看指标,再看榜单。

本课程使用的五个对象

对象本地代表核心问题
Video world modelCosmos3-Nano未来画面是否合理?
Latent world modelTiny RSSM低维状态能否预测未来?
VLASmolVLA语言+图像+状态如何输出动作?
DatasetLeRobot PushT数据分布和 action 空间是什么?
Benchmarkgym-pusht闭环 return / coverage / success 如何?

实践:三分钟分类训练

  1. 打开 基本介绍 和 Field Map。
  2. 把 Cosmos、RSSM、SmolVLA、PushT 数据集、gym-pusht 分别写在纸上。
  3. 给每个对象标注:输入、输出、是否显式预测未来、是否直接输出动作。
  4. 检查你是否能说出每个对象的证据等级:interface / offline / closed-loop。
  5. 用一句话说明 benchmark、leaderboard、challenge 的差别,再查看 比赛与 Benchmark 地图。
小胜利

完成后,你应该能把“会预测”和“会行动”分成两条线,并知道它们可以组合。

检索练习

SmolVLA 输出 action chunk 时,最准确的分类是什么?

SmolVLA 的公开接口是把图像、语言和状态映射为动作块,因此是 VLA policy;它不显式输出未来画面。

本课一手来源

DreamerV3 与 Cosmos 是理解两条主线的起点:DreamerV3、Cosmos。

有疑问就问

把不理解的地方直接发给老师/agent,最好附上你观察到的现象和报错。

Course file: lessons/0001-mental-map.html