# 前言
随着各大企业和高校研发的模型越来越大，模型的性能也逐渐涌现。但是这些大模型在实际应用到具体领域时，依然会存在缺乏领域知识的问题，往往需要进一步领域微调。而巨额参数量的大模型微调需要很多的资源支持，使很多研发人员望而却步。
PEFT（Parameter-Efficient Fine-Tuning）是一种用于大型预训练模型微调的技术。它在近年来因应对大型模型的实际应用需求而被广泛研究和采用。PEFT技术通过在保持大部分预训练参数固定的前提下，只对模型的一小部分参数进行调整，以实现对特定任务的微调。这种方法的目的是提高微调的效率和可行性，尤其是在资源受限的情况下。
---
# 一、lora是什么？
LoRA（Low-Rank Adaptation）就属于大型预训练语言模型的参数高效微调技术的一种。这种方法的核心思想是通过引入低秩矩阵来修改模型中的特定权重矩阵，从而使模型适应新的任务或数据集，而不必改变原始的预训练权重。
LoRA的实现步骤：
1、选择权重：首先，选择模型中需要被调整的权重矩阵。这些通常是深度神经网络中关键层（如Transformer中的自注意力层）的权重。
2、引入低秩矩阵：为每个选定的权重矩阵引入两个低秩矩阵A和B。这些矩阵比原始权重矩阵小得多，因此包含的参数数量也少得多。
3、修改权重：在模型的前向传播过程中，原始的权重矩阵W通过W + BA来修改。这里，BA是A和B的乘积，它是一个低秩矩阵，可以看作是对原始权重的一个增量调整。
4、训练低秩矩阵：在微调过程中，不改变原始的权重W，只更新低秩矩阵A和B。这样，就可以通过训练相对较少的参数来调整模型的行为。
使用这种方式微调大模型，需要训练的参数量仅为A、B两个矩阵的权重，远低于模型的全量参数。
# 二、peft仓库代码实现逐行解读
## 1. lora层的具体计算细节
代码路径：peft/src/peft/tuners/lora/layer.py
```c
def _apply_dora(self, x, lora_A, lora_B, scaling, active_adapter):
"""
For DoRA, calculate the extra output from LoRA with DoRA applied. This should be added on top of the base layer
output.
"""
lora_weight = lora_B.weight @ lora_A.weight # YoungL: 这行代码通过矩阵乘法合并两个权重矩阵 lora_A.weight 和 lora_B.weight。这两个矩阵是LoRA技术中使用的低秩矩阵，用来调整模型的参数。
magnitude = self.lora_magnitude_vector[active_adapter] # YoungL: 从 lora_magnitude_vector 中获取当前激活适配器对应的幅度值。这个幅度值用于后续调整LoRA调整的规模。
weight = self.get_base_layer().weight # YoungL: 从 lora_magnitude_vector 中获取当前激活适配器对应的幅度值。这个幅度值用于后续调整LoRA调整的规模。
quant_state = getattr(self.get_base_layer(), "state", None) # YoungL: 尝试获取基础层权重的量化状态，如果没有则返回 None。
weight = dequantize_bnb_weight(weight, state=quant_state) # no-op if not bnb # YoungL: 如果权重被量化，这行代码将进行反量化处理，确保权重以正确的格式用于计算。
weight = weight.to(x.dtype) # YoungL: 将权重的数据类型转换为与输入 x 相同，确保数据类型一致。
weight_norm = self._get_weight_norm(weight, lora_weight, scaling) # YoungL: 在初始权重上增加scaling处理过的lora权重（看后续对self._get_weight_norm的解读）。
weight_norm = weight_norm.detach() # YoungL: 将处理后的权重从梯度计算中分离出来，遵循DoRA文献中的建议，使其在反向传播时不更新。
mag_norm_scale = (magnitude / weight_norm).view(1, -1) # YoungL: 根据获取的幅度和计算出的权重，计算缩放因子。调整其形状以便于后续运算。
result_dora = (mag_norm_scale - 1) * (
F.linear(x, transpose(weight, self.fan_in_fan_out))
) + mag_norm_scale * lora_B(lora_A(x)) * scaling # YoungL: 这行代码计算最终的DoRA结果。首先，使用基础权重进行线性变换，然后应用LoRA调整，并通过缩放因子进行调整。结果是两部分的加和，一部分是基础变换，另一部分是LoRA调整。
return result_dora
```
上述代码中的 _get_weight_norm 函数的解析如下：
```c
def _get_weight_norm(self, weight, lora_weight, scaling) -> torch.Tensor:
# calculate L2 norm of weight matrix, column-wise
weight = transpose(weight, self.fan_in_fan_out) # YoungL: 权重矩阵的转置
weight = weight + scaling * lora_weight # YoungL: 这一步将LoRA技术调整的权重（lora_weight）缩放后加到原始的权重矩阵上。这里的 scaling 是一个缩放因子，用于控制LoRA权重调整的影响程度。
weight_norm = torch.linalg.norm(weight, dim=1).to(weight.dtype) # YoungL: 使用PyTorch的 torch.linalg.norm 函数计算权重矩阵每一列的L2范数。dim=1 参数指定沿着矩阵的列（每行一个元素组成的列）进行范数计算。
return weight_norm
```
原文链接：https://blog.csdn.net/Brilliant_liu/article/details/137917158?spm=1001.2014.3001.5501
