知识中等
为什么开环评测不足以反映实际表现?闭环评测如何揭示分布偏移和误差累积?
开环评测只测单步拟合质量,看不到策略自己制造的分布偏移与误差累积;闭环评测让策略持续控制环境直到成败,测的是「错了能不能纠正」的稳定成功率,才接近真实表现。
标准答案
开环评测(对固定数据集的动作误差、预测指标)的两个盲区:1)误差累积——小误差改变后续状态,部署时的状态分布很快偏离评测数据分布,单步精度无法外推;2)闭环稳定性——策略可能把系统推入振荡、卡死等训练分布外的动态,开环分数完全不可见。闭环评测让策略从初始状态出发持续控制至成功/失败/超时:按任务长度分桶报告成功率可以直接看到误差累积曲线(长任务衰减快);注入扰动(推动物体、改变初始状态)检验恢复能力;对比策略自身 rollout 的状态分布与示范分布量化 covariate shift(DAgger 的核心论证)。工程上:开环指标仍可用于回归测试与快速筛选,但上线决策必须绑定闭环成功率与任务时长分布。
深入理解
加分点:举「开环好、闭环崩」的机制性例子——逐点最优但无恢复能力的短视策略;世界模型/MPC 的开环 rollout 与策略闭环评测的区别(模型误差同样会被闭环放大);以及仿真闭环与真机仍有相关性缺口,所以严肃评测要真机抽样。能把 covariate shift、误差累积、恢复能力三个词各配一个可观测指标就是结构化回答。