搜索面试经历、知识题和 Coding 题。
至少输入两个字符。结果覆盖知识库、面试、Coding、公司和主题。
为具身智能面试中反复出现的概念提供标准答案。
当前主题：transformer
共 12 个问题
KV Cache 用额外内存换取计算量，让每个新 token 只需关注自身和历史缓存。
Query 负责提出查询，Key 用于索引，Value 携带最终汇聚的内容。
同时接收图像和语言指令，并输出机器人动作的模型。
预训练给通用表示，SFT 用示范把行为对齐到任务分布，GRPO 在 SFT 之上用可验证奖励继续突破模仿上限；完整流程是数据准备 → 轨迹采样 → 奖励计算 → 策略更新 → 评测的闭环。
SFT 打底，RLHF 用奖励模型 + PPO，DPO 直接从偏好对优化省掉奖励模型，GRPO 用组相对优势替代 critic；各有成本与稳定性取舍。
KV Cache 避免重复计算，FlashAttention 做 IO 感知的精确注意力，PagedAttention 分页管理 KV；再叠加量化、连续 batching、投机解码。
训练侧靠混合精度、梯度检查点、ZeRO 分片、梯度累积和 8-bit 优化器；推理侧靠 KV Cache 量化/分页、权重量化和小头部署。
数据并行复制模型只切 batch，张量并行切开单个算子，流水并行按层分段，ZeRO/FSDP 对参数、梯度、优化器状态分片。
冻结原权重，为部分矩阵学习低秩增量 ΔW = BA；参数与优化器显存大减、可合并可插拔，代价是表达上限略低。
BN 沿 batch 维统计每个特征的均值方差，LN 对单样本的特征维归一化，RMSNorm 在 LN 基础上减掉均值中心化只保留 RMS 缩放。
MHA 每个 query 头有独立 K/V 头，质量最好但 KV Cache 最大；GQA 让一组 query 头共享一个 K/V 头，在质量与显存/带宽之间折中。
除以 √dk 是为了控制点积的方差：dk 维点积的方差随维度线性增长，不缩放会让 softmax 饱和、梯度消失。