Benchmark
固定任务集、数据划分和指标,用来做可复现比较。
固定任务集、数据划分和指标,用来做可复现比较。
按指标排序的结果列表;要看是否固定 test split、是否允许外部数据和多次提交。
有时间窗口、提交格式和排名规则;每年任务和数据可能变化,报名前看官方页面。
仿真提供可重复环境、明确 action space 和自动指标;但结果只能写成 simulation closed-loop evidence,不能直接写成 real-robot success。
| 平台 / 仓库 | 定位 | 硬件 | 课程建议 | 入口 |
|---|---|---|---|---|
| gym-pusht | 2D manipulation、coverage / success | CPU 友好 | 第一环境 | GitHub |
| LeRobot | dataset、policy、SmolVLA、PushT 生态 | 低门槛 | 主生态 | GitHub / 安装文档 |
| MuJoCo Playground | GPU 加速 locomotion / manipulation / sim-to-real | GPU | 进阶物理 | GitHub |
| ManiSkill | GPU-parallel manipulation | Linux + NVIDIA 最完整 | 进阶 benchmark | GitHub |
| Isaac Lab | NVIDIA Isaac Sim 上的 robot learning 框架 | NVIDIA 生态 | 高级平台 | 官方文档 |
| Habitat / CALVIN / LIBERO / BEHAVIOR | navigation、language、long-horizon、household | 视任务而定 | 扩展路线 | Habitat / CALVIN / LIBERO / BEHAVIOR |
gym-pusht → LeRobot → MuJoCo Playground / ManiSkill → Isaac Lab / Habitat / BEHAVIOR。先完成 CPU 最小闭环,再进入 GPU 并行与复杂机器人。
详细安装命令、P0–P10 流程和证据表见 Lesson 0016。
| 平台 | 任务类型 | 适合练什么 | 入口 |
|---|---|---|---|
| Embodied AI Workshop | 导航、rearrangement、vision-language navigation 等 challenge | 跟踪主流具身智能比赛任务和提交格式 | embodied-ai.org |
| RoboWorld Challenge 2026 | WorldNav、HA-VLN 2.0、SafeDrive-VLA | 本课程主目标;连接 world model、VLA 与 embodied policy | 官网 / 课程路线 |
| AI Habitat | 3D 室内导航与交互仿真 | photo-realistic navigation、SPL、路径效率 | aihabitat.org |
| BEHAVIOR | 长时序家庭活动和 human-centered 任务 | 多步骤活动分解、日常物体交互 | 官网 / Challenge |
| Benchmark | 重点 | 适合练什么 | 入口 |
|---|---|---|---|
| CALVIN | language-conditioned long-horizon manipulation | 语言到操作序列、长时序成功率 | 官网 / GitHub |
| LIBERO | lifelong robot learning 与知识迁移 | 任务序列学习、遗忘和迁移 | 官网 |
| Meta-World | multi-task / meta-RL manipulation | 多任务采样效率与策略泛化 | 官网 / GitHub |
| PushT + LeRobot | 二维推动任务,课程本地基础 | 数据 schema、offline 训练、闭环评估 | LeRobot / PushT |
| 平台 | 评估重点 | 适合练什么 | 入口 |
|---|---|---|---|
| WorldModelBench | world model 生成与预测质量 | 视觉预测、物理一致性、时序稳定性 | worldmodelbench.github.io |
| WorldArena | embodied world model 的感知与功能维度 | 从“看起来像”走向“可交互、可用于决策” | 官网 / GitHub |
| DeepMind Control Suite | 连续控制任务族 | latent world model + RL 的闭环控制 | 论文 |
| 平台 | 重点 | 适合练什么 | 入口 |
|---|---|---|---|
| RoboChallenge | real-robot benchmark 与 policy evaluation | 真机协议、安全、可靠性 | robochallenge.ai |
| RoboVerse | 统一机器人学习平台与 benchmark | 跨任务/跨仿真器的比较 | roboverseorg.github.io |
| LeRobot | 机器人数据、policy、工具链 | 数据集格式、训练、复现实验 | Hugging Face / GitHub |
你当前的问题是什么?
├─ 只想验证视频预测质量
│ └─ WorldModelBench / WorldArena + PSNR、SSIM、LPIPS、FVD、rollout
├─ 想做语言条件长时序操作
│ └─ CALVIN / LIBERO
├─ 想做多任务操作和 meta-learning
│ └─ Meta-World
├─ 想做导航或家庭任务
│ └─ AI Habitat / BEHAVIOR / Embodied AI Workshop
├─ 想测试真机部署
│ └─ RoboChallenge + 延迟、安全、鲁棒性
└─ 想从课程最小实验扩展
└─ PushT 图像输入 / richer state / RSSM planning
Challenge 的任务、榜单和截止日期每年会变化。此页不写具体 deadline;报名时请以官方网站当届规则为准。