知识困难
π*0.6 的 reward model 如何获得奖励信号?奖励设计如何支持后训练?
不依赖手工密集奖励:以少量人工核验的成败标签为种子,在回放数据上用时间一致性自举 value/reward 信号,为全部无标签经验自动打分。
标准答案
奖励信号有两条来源:一小部分经验由人工核验任务成败,形成种子标签;在此之上于回放数据上训练 value/reward 模型,用时间一致性自举把终局成败的信用沿轨迹向前传播,从而给无标签的成败经验自动打分。奖励刻意保持稀疏、以任务成败为主,避免稠密塑形带来的偏差,把「如何加权经验」交给优势条件化机制完成。
深入理解
对比方向:仿真中常用的 reward shaping 在跨任务通用后训练中不可扩展,因为每个任务都要人工设计;视觉 reward model 依赖生成或匹配也各有偏差。π*0.6 的取舍是用最小的人工监督 + 自举扩展覆盖面,面试中能说出「稀疏奖励 + 优势条件化」这个组合逻辑即可。