知识中等
π-FAST 的离散自回归动作生成,与 π0/π0.5 的连续 Flow Matching Action Expert 相比,各有什么训练和推理取舍?在闭环重规划时,两者又分别有什么限制?
离散 AR 训练快约 5 倍、可复用语言模型基础设施,但推理逐 token 串行;flow expert 推理并行、贴合连续控制,但训练贵。闭环重规划时 AR 每次都要重新生成整段 token,flow expert 靠外推缓解等待。
标准答案
训练:FAST 把动作压成短离散序列,用标准 next-token 损失,收敛比 flow matching 快约 5 倍,并能与语言数据共享同一套训练设施;flow matching 需要多步去噪式训练与专门实现。推理:AR 生成动作 token 是串行的,chunk 长、控制频率高时延迟压力大;flow expert 少数步积分即可并行产出整块动作。闭环重规划:AR 每次重规划都要重新生成整段 token 序列,块内无法中途修正;flow expert 可以用 inference-time extrapolation 在旧块执行期间预生成新块,重规划延迟更隐蔽。
深入理解
好答案会给出量化直觉:token 序列长度正比于 chunk 步数乘维度压缩率,控制频率越高串行解码压力越大;工程缓解手段包括 KV cache、投机解码。还应指出 FAST 的定位——加速训练与迁移,而非替代连续专家;π0.5 两阶段并用正是取两者之长。