知识中等
LoRA 微调的原理是什么?相比全量微调有哪些优缺点?在具身智能中一般如何应用?
冻结原权重,为部分矩阵学习低秩增量;参数与优化器显存大减、可合并可插拔,代价是表达上限略低。
标准答案
LoRA 冻结预训练权重 W,为其附加低秩分解(r 远小于 d),只训练 A、B。参数量、优化器状态和梯度显存大幅下降,多个任务的适配器可以切换或合并回主权重;通常作用于注意力与 MLP 投影矩阵。相比全量微调:优点是省显存、抗遗忘、部署灵活,缺点是秩上限约束了可学到的改动,复杂任务上可能略逊。
深入理解
具身应用落点:对 VLA 主干做 LoRA 是标准玩法——openpi 的 π0 微调就提供 LoRA 选项,用少量演示数据为不同机器人本体或新任务训练独立适配器,保住 VLM 预训练知识的同时快速适配动作分布。还可以提 QLoRA(4-bit 量化 + LoRA)进一步压显存,以及 rank 选择与目标模块的经验规律。