搜索面试经历、知识题和 Coding 题。
至少输入两个字符。结果覆盖知识库、面试、Coding、公司和主题。
为具身智能面试中反复出现的概念提供标准答案。
共 79 个问题
离散 AR 训练快约 5 倍、可复用语言模型基础设施,但推理逐 token 串行;flow expert 推理并行、贴合连续控制,但训练贵。闭环重规划时 AR 每次都要重新生成整段 token,flow expert 靠外推缓解等待。
PPO 的 critic 在完整观测上逐步 TD/GAE 自举,梯度影响整个策略网络;RLT 的 value 头只读压缩的 RL token,按 chunk 级自举、跨度更短,且 VLA 主干冻结。
GRPO 用组内相对奖励做 on-policy 策略梯度,需要可验证奖励与大规模并行采样;ReCAP 用离线回放上的 value 自举 + 优势条件化监督,不需要在线采样与成组对比。
部署采集经验(含人工纠正)→ 回放数据上拟合 value/优势 → 优势条件化策略训练 → 以高优势条件部署执行,新经验回流形成闭环。
在冻结 VLA 上接一个编码-解码 Transformer 抽出压缩的 RL token,再在小 actor-critic 头上做 PPO 风格在线 RL;测试时 RL 头在 token 空间输出对参考动作的修正。
π0.7 用可引导的多模态条件(丰富语言指令、目标/子目标图像、任务元数据)+ 原子子任务分解 + 世界模型生成子目标图像,把新任务重组为已见原子能力的组合。
不依赖手工密集奖励:以少量人工核验的成败标签为种子,在回放数据上用时间一致性自举 value/reward 信号,为全部无标签经验自动打分。
replay buffer 持久化自主经验供反复离线更新:为 value/优势估计提供固定分布、重标注与再平衡、混合新旧数据防止遗忘,是经验闭环类方法的枢纽。
π*0.6 要让 VLA 从自身经验(含失败)中变得可靠;真机 PPO 受采样成本、稀疏奖励与 on-policy 约束限制;RECAP 用离线 value 学习 + 优势条件化训练把 RL 转化为条件化监督学习。
该模块预测下一阶段子任务的自然语言 token;推理时先采样子任务,再把它与观测拼接作为动作专家的条件,随执行进度滚动更新。
数据层的异构 co-training(网络图文、多机器人、言语指令)、训练目标层的高层子任务预测、训练策略层的离散 token 预训练 + 连续专家微调,三层叠加支撑开放世界泛化。
会。动作专家与 VLM 端到端联合训练,动作损失经注意力反传到主干;预训练知识靠海量 co-training 数据与小学习率保护。
π0 主打通用高频低层控制,π0.5 主打开放世界泛化:靠异构 co-training、子任务预测与离散 token 预训练 + 连续专家微调的两阶段训练,把泛化能力显著推高。
架构延续 π0 的 VLM + 动作专家;推理先预测高层子任务文本,再以子任务为条件生成动作;训练用异构 co-training,动作预训练混入 FAST 离散 token,损失含子任务语言建模与动作项。
可选:冻结主干只训 adapter/动作头、LoRA 参数高效微调、两阶段离散预训练后接连续专家、完全离散自回归输出、并行读出头等,各自在迁移与控制精度间取舍。
动作块覆盖未来约 1 秒(H=50、50Hz)的关节级控制量;块内按时间戳顺序执行,执行期间或块尾重新观测并生成下一块,相邻块用外推与平滑衔接。
动作专家从高斯噪声动作块出发,每步依据 VLM 提供的上下文 KV 预测速度场,沿 ODE 积分若干步得到干净动作块。
π0 直接沿用 PaliGemma(SigLIP 视觉编码器 + Gemma 语言主干),多相机图像 patch 与语言 token 拼接共享全注意力;机器人专有信号不进入 VLM 上下文,只经输入投影提供给动作专家。
两者都把本体状态经输入投影只喂给动作专家而非 VLM,保持主干本体无关;π0.5 更强调跨本体共训,状态的作用被进一步弱化,更多依赖视觉闭环。