每天一个大模型相关知识点系列--Lora微调

大模型微调通常发生在预训练模型完成之后，通过在特定任务或领域数据上进行再训练，使模型具备特定的下游任务能力或注入领域知识。然而，由于大规模语言模型参数量巨大，全量微调需要显著的计算资源和存储开销，在多任务或多场景设置下成本较高，且模型参数难以复用。因此，近年来提出了多种参数高效微调方法，其中 LoRA 是一种代表性方法。

LoRA（Low-Rank Adaptation of Large Language Models）并不直接改变预训练模型参数的秩，而是对模型参数更新施加低秩约束。具体而言，在 LoRA 微调过程中，预训练模型的原始参数被冻结，仅在模型中的线性层上引入可训练的低秩适配模块。

对于一个权重矩阵W∈Rm×n 的线性层，LoRA 将其参数更新表示为一个低秩矩阵

ΔW=BA,

其中 A∈Rr×n，B∈Rm×r，且r≪min(m,n)。在训练过程中，仅优化 A 和 B，而原始权重W 保持不变。模型的实际权重为

W′=W+(r\α)​BA,

其中 α 为缩放系数。

通过这种方式，LoRA 在显著减少可训练参数数量和计算开销的同时，能够在较大程度上保持模型的原有能力，并实现有效的任务适配。