闭环评估：offline 好不等于任务成功
为什么必须闭环
离线预测中，每一步输入都来自数据集；闭环中，模型自己的动作会改变未来观测。分布会漂移，小错误会累积。
本地结果
| Policy | Success | Mean return | Final coverage |
|---|---|---|---|
| Random | 0/10 | 1.624 | 0.000 |
| Tiny imitation | 0/10 | 12.728 | 0.00815 |
tiny policy 在 return/coverage 上优于随机，但严格成功率仍为 0。
实践：比较两个视频
- 找出 tiny policy 更稳定的行为。
- 指出它仍然失败的原因。
- 写一个改进假设，例如加入 block pose / goal pose / image。
结论模板
正确表述
“Tiny policy improves return and coverage over random but does not solve PushT.”
实践：套用评价体系
打开 评价体系，把本实验填入三级证据阶梯，并写出每个数字“能证明什么 / 不能证明什么”。
检索练习
Closed-loop evaluation 的关键特征是什么？
选择一个答案
闭环中策略的动作影响后续观测，因此会暴露复合误差和分布漂移。
本课一手来源
评估环境：gym-pusht；数据：lerobot/pusht。
有疑问就问
把不理解的地方直接发给老师/agent，最好附上你观察到的现象和报错。
Course file: lessons/0009-closed-loop.html