知识困难
在具身智能任务中,如何设计奖励函数?有哪些典型的奖励设计思路?
从稀疏任务成功奖励到势函数塑形、课程奖励、学习型奖励(分类器/视觉 reward model/时间一致性自举),核心权衡是塑形收益与奖励黑客风险。
标准答案
典型思路按监督密度递增:1)稀疏奖励——只用任务成功/失败,无偏但探索难;2)势函数塑形(potential-based shaping)——以距离/子任务进度给密集信号,且理论上不改变最优策略;3)课程奖励——随训练进度逐步收紧容差或增加难度;4)学习型奖励——用成败分类器、视觉 reward model 或时间一致性自举从少量标注扩展到全量数据(π*0.6 的做法);5)偏好奖励——人类偏好比较训练 reward model。
深入理解
这题的高分点在风险意识:稠密手工奖励容易被黑客(机器人学会蹭奖励而不是完成任务),所以现代机器人后训练普遍「稀疏成功 + 学习型 value + 人工纠正兜底」。能对比仿真(可以放手塑形)与真机(信号只能来自少量人工核验)的不同约束更佳。