搜索面试经历、知识题和 Coding 题。
至少输入两个字符。结果覆盖知识库、面试、Coding、公司和主题。
为具身智能面试中反复出现的概念提供标准答案。
当前主题:embodied-ai
共 71 个问题
Hugging Face 机器人社区的标准化数据集格式:Parquet 表 + 视频 episode、统一观测/动作空间元数据,可流式加载与跨本体复用。
DAgger 迭代地用当前策略滚动、让专家在策略访问的状态上标注,聚合数据重训,解决行为克隆的分布偏移(covariate shift)。
ACT 用 CVAE 从示范中采样风格隐变量、Transformer 解码器一次输出一整段动作块,配合时间集成执行,缓解模仿学习的多模态与累积误差问题。
自动基准(知识、推理、代码)、困惑度、成对胜率与 LLM-as-judge、人类偏好竞技场,配合安全评测与数据污染检查。
SFT 打底,RLHF 用奖励模型 + PPO,DPO 直接从偏好对优化省掉奖励模型,GRPO 用组相对优势替代 critic;各有成本与稳定性取舍。
学习一个速度场把简单分布沿(近似直线的)路径输运到数据分布;训练只是向量场回归,扩散可视为其框架下的特例。
冻结原权重,为部分矩阵学习低秩增量 ΔW = BA;参数与优化器显存大减、可合并可插拔,代价是表达上限略低。
π 系列走「VLM + 小动作专家 + flow matching 连续控制」并持续迭代后训练;RT 系列(RT-1/RT-2)与 OpenVLA 把动作离散成 token 自回归输出,侧重大规模示范数据与开源生态。
开放题:可从世界模型与策略深度耦合、在线 RL 闭环自动化、跨本体统一动作接口、长程记忆与移动操作、安全可控生成等角度给出「短板 → 杠杆」的推理链。
π0 确立 VLM+flow expert 架构解决高频灵巧控制 → π-FAST 用离散 token 加速训练 → π0.5 靠异构 co-training 与子任务规划解决开放世界泛化 → π*0.6 用 RECAP 从经验中后训练提可靠性 → π0.7 以可引导条件与世界模型子目标冲组合泛化,RLT 补上高效在线 RL。
截断高频系数意味着丢失快速修正与接触瞬态;中低控制频率、动作平滑、以轨迹跟踪为主的任务适合 FAST;高频力控、接触密集、需要瞬时反应的任务不适合。
FAST 对动作序列沿时间维做 DCT,把能量集中到少数低频系数;量化后用 BPE 把常共现的系数量化为单 token,序列比逐维分桶短一个量级。
离散 AR 训练快约 5 倍、可复用语言模型基础设施,但推理逐 token 串行;flow expert 推理并行、贴合连续控制,但训练贵。闭环重规划时 AR 每次都要重新生成整段 token,flow expert 靠外推缓解等待。
PPO 的 critic 在完整观测上逐步 TD/GAE 自举,梯度影响整个策略网络;RLT 的 value 头只读压缩的 RL token,按 chunk 级自举、跨度更短,且 VLA 主干冻结。
GRPO 用组内相对奖励做 on-policy 策略梯度,需要可验证奖励与大规模并行采样;ReCAP 用离线回放上的 value 自举 + 优势条件化监督,不需要在线采样与成组对比。
部署采集经验(含人工纠正)→ 回放数据上拟合 value/优势 → 优势条件化策略训练 → 以高优势条件部署执行,新经验回流形成闭环。
在冻结 VLA 上接一个编码-解码 Transformer 抽出压缩的 RL token,再在小 actor-critic 头上做 PPO 风格在线 RL;测试时 RL 头在 token 空间输出对参考动作的修正。
π0.7 用可引导的多模态条件(丰富语言指令、目标/子目标图像、任务元数据)+ 原子子任务分解 + 世界模型生成子目标图像,把新任务重组为已见原子能力的组合。
不依赖手工密集奖励:以少量人工核验的成败标签为种子,在回放数据上用时间一致性自举 value/reward 信号,为全部无标签经验自动打分。
replay buffer 持久化自主经验供反复离线更新:为 value/优势估计提供固定分布、重标注与再平衡、混合新旧数据防止遗忘,是经验闭环类方法的枢纽。