知识中等
π0.5 的 Action Expert 梯度会回传至 VLA 吗?为什么?
会。动作专家与 VLM 端到端联合训练,动作损失经注意力反传到主干;预训练知识靠海量 co-training 数据与小学习率保护。
标准答案
会回传。π0/π0.5 中动作专家与 VLM 联合端到端训练:flow matching 或 token 损失对动作专家求导后,经共享注意力继续向 VLM 主干传播,机器人相关的输入投影也同步更新。设计者选择全参微调而非隔断,是因为任务要求主干真正理解机器人语境;预训练知识由异构 co-training 数据与训练超参保护,而不是靠梯度隔断。
深入理解
对比方向:冻结主干(如 π-FAST 之上只训 RL 头、RLT 冻结 VLA 只训 actor-critic 头)保护知识但上限受既有表示约束;梯度回传上限高但数据不足时会遗忘。面试加分点是指出「梯度是否隔断」不是教条,而是数据规模、算力预算与任务分布偏移程度共同决定的工程决策。