知识困难
闭环rollout需要怎样的交互仿真环境?状态更新、策略推理、重规划和训练循环如何衔接?
闭环 rollout 是环境与策略的持续交互循环:观测 → 策略推理动作块 → 环境推进 → 重观测;外围再包数据采集与训练更新,工程关键是时序对齐、可复现重置与异步并行。
标准答案
组件与衔接:1)环境侧——物理引擎或真机状态估计负责状态更新,任务成功/失败/超时判定,可复现的随机化与重置;2)策略侧——观测预处理(多相机、本体状态)按控制频率推理动作块,块内按时间戳回放、块间重规划,chunk 执行方式(开环回放 vs 逐步闭环)要显式记录;3)数据侧——(观测,动作,奖励,next 观测,done)写入 replay buffer 或 on-policy batch,注意 chunk 时序对齐与中断 mask(人接管、安全停机必须标记,否则训练把中断当策略行为学进去);4)训练侧——learner 从 buffer 采样、更新策略与 value、周期同步评估 checkpoint。工程要点:rollout worker 与推理时钟解耦(异步采集)、多环境并行摊薄推理成本、固定种子保证可复现、真机场景下人可安全介入。
深入理解
高分点:讲清开环 chunk 回放与逐闭环重规划在接口与信用分配上的差异(前者把 chunk 当整体动作、后者 token 级分配);异步架构里「训练中的策略 vs 采数据的策略」轻微不一致如何被 ratio/clip 容忍;以及评估与训练环境严格分离防过拟合仿真。能画出 worker-learner 异步图并指出瓶颈(推理吞吐通常是 rollout 带宽上限)是加分。