你了解哪些大模型的推理加速方法？（如 KV Cache、Flash Attention、PagedAttention 等）

主要手段：1）KV Cache 缓存历史 key/value，把每步复杂度从 O(n²) 降到 O(n)；2）FlashAttention 用分块和在线 softmax 减少 HBM 读写，是不损失精度的核级加速；3）PagedAttention（vLLM）把 KV Cache 按页管理，消除碎片、提高并发 batching 吞吐；4）量化（权重量化与 KV 量化）降低带宽；5）投机解码用小模型草拟、大模型验证；6）结构级改进如 GQA/滑窗直接缩小缓存。

加分点是把「单请求延迟」和「集群吞吐」分开讨论：前者靠 FlashAttention/量化/投机解码，后者靠 PagedAttention + continuous batching。具身落点：VLA 在机载 GPU 上有硬实时预算，chunk 化输出 + 少步 Flow Matching + GQA 是 π 系列的组合拳。