搜索面试经历、知识题和 Coding 题。
至少输入两个字符。结果覆盖知识库、面试、Coding、公司和主题。
为具身智能面试中反复出现的概念提供标准答案。
当前主题:pi-series
共 24 个问题
π 系列走「VLM + 小动作专家 + flow matching 连续控制」并持续迭代后训练;RT 系列(RT-1/RT-2)与 OpenVLA 把动作离散成 token 自回归输出,侧重大规模示范数据与开源生态。
开放题:可从世界模型与策略深度耦合、在线 RL 闭环自动化、跨本体统一动作接口、长程记忆与移动操作、安全可控生成等角度给出「短板 → 杠杆」的推理链。
π0 确立 VLM+flow expert 架构解决高频灵巧控制 → π-FAST 用离散 token 加速训练 → π0.5 靠异构 co-training 与子任务规划解决开放世界泛化 → π*0.6 用 RECAP 从经验中后训练提可靠性 → π0.7 以可引导条件与世界模型子目标冲组合泛化,RLT 补上高效在线 RL。
截断高频系数意味着丢失快速修正与接触瞬态;中低控制频率、动作平滑、以轨迹跟踪为主的任务适合 FAST;高频力控、接触密集、需要瞬时反应的任务不适合。
FAST 对动作序列沿时间维做 DCT,把能量集中到少数低频系数;量化后用 BPE 把常共现的系数量化为单 token,序列比逐维分桶短一个量级。
离散 AR 训练快约 5 倍、可复用语言模型基础设施,但推理逐 token 串行;flow expert 推理并行、贴合连续控制,但训练贵。闭环重规划时 AR 每次都要重新生成整段 token,flow expert 靠外推缓解等待。
PPO 的 critic 在完整观测上逐步 TD/GAE 自举,梯度影响整个策略网络;RLT 的 value 头只读压缩的 RL token,按 chunk 级自举、跨度更短,且 VLA 主干冻结。
GRPO 用组内相对奖励做 on-policy 策略梯度,需要可验证奖励与大规模并行采样;ReCAP 用离线回放上的 value 自举 + 优势条件化监督,不需要在线采样与成组对比。
部署采集经验(含人工纠正)→ 回放数据上拟合 value/优势 → 优势条件化策略训练 → 以高优势条件部署执行,新经验回流形成闭环。
在冻结 VLA 上接一个编码-解码 Transformer 抽出压缩的 RL token,再在小 actor-critic 头上做 PPO 风格在线 RL;测试时 RL 头在 token 空间输出对参考动作的修正。
π0.7 用可引导的多模态条件(丰富语言指令、目标/子目标图像、任务元数据)+ 原子子任务分解 + 世界模型生成子目标图像,把新任务重组为已见原子能力的组合。
不依赖手工密集奖励:以少量人工核验的成败标签为种子,在回放数据上用时间一致性自举 value/reward 信号,为全部无标签经验自动打分。
replay buffer 持久化自主经验供反复离线更新:为 value/优势估计提供固定分布、重标注与再平衡、混合新旧数据防止遗忘,是经验闭环类方法的枢纽。
π*0.6 要让 VLA 从自身经验(含失败)中变得可靠;真机 PPO 受采样成本、稀疏奖励与 on-policy 约束限制;RECAP 用离线 value 学习 + 优势条件化训练把 RL 转化为条件化监督学习。
该模块预测下一阶段子任务的自然语言 token;推理时先采样子任务,再把它与观测拼接作为动作专家的条件,随执行进度滚动更新。
数据层的异构 co-training(网络图文、多机器人、言语指令)、训练目标层的高层子任务预测、训练策略层的离散 token 预训练 + 连续专家微调,三层叠加支撑开放世界泛化。
会。动作专家与 VLM 端到端联合训练,动作损失经注意力反传到主干;预训练知识靠海量 co-training 数据与小学习率保护。
π0 主打通用高频低层控制,π0.5 主打开放世界泛化:靠异构 co-training、子任务预测与离散 token 预训练 + 连续专家微调的两阶段训练,把泛化能力显著推高。
架构延续 π0 的 VLM + 动作专家;推理先预测高层子任务文本,再以子任务为条件生成动作;训练用异构 co-training,动作预训练混入 FAST 离散 token,损失含子任务语言建模与动作项。
可选:冻结主干只训 adapter/动作头、LoRA 参数高效微调、两阶段离散预训练后接连续专家、完全离散自回归输出、并行读出头等,各自在迁移与控制精度间取舍。