Transformer是一种专门处理序列数据(比如句子)的深度学习模型。它的核心是个叫“自注意力机制"(SelfAttention)的东西，这个机制让它能同时看整个句子里的所有词，而不是像老式的循环神经网络(RNN)那样得一个词一个词慢慢看。
通俗比喻:想象Transformer是一个超级聪明的“翻译官“或者“文本处理专家”。
Transformer主要由两大部分组成:编码器(Encoder)和解码器(Decoder)。
编码器负责把输入的句子变成一堆有意义的向量(就像提取句子的“精华”)，解码器则根据这些向量一步步生成输出的句子(比如翻译结果)。
1.自注意力机制(Self-Attention)
这是Transformer的“心脏”。它让模型在处理一个词时能同时看看句子里的其他所有词，算出它们对这个词的重要性。
怎么工作:
每个词先被变成一个数字向量(叫embedding，类似于词的“身份证”)。
对某个词，模型会拿它的向量去跟所有词(包括自己)的向量做比较，算出“相关性”(用点积这种数学操作)。
算完后，每个词会得到一个“权重“，表示它对当前词有多重要。
最后，把所有词的信息按这些权重加起来，就得到当前词的新表示。
举个例子: 句子是“国王喜欢音乐”。在看“喜欢“时，自注意力会发现“国王“和“音乐”跟它关系更大，于是重点关注这两个词，而不是句子外的其他东西。
2.多头注意力(Multi-Head Attention)
这是自注意力的“升级版”。它把注意力分成好几个“头”每个头独立去看词之间的关系，最后把结果合起来。
通俗比喻: 想象破案时有好几个侦探，每个侦探盯着不同的线索:一个看时间，一个看地点，一个看人物。最后他们把发现拼在一起，得出完整结论。多头注意力就是让模型从不同角度理解句子。
怎么工作:
把词的向量分成几份，每份给一个“头”
每个头单独算一次自注意力，得出自己的结果。把所有头的结果拼接起来，再通过一个“加工步骤“(线性层)融合成最终输出。
3.位置编码(Positional Encoding)
Transformer不像RNN那样按顺序处理词，所以它需要一个办法知道词在句子里的位置。这就是位置编码的用处。
通俗比喻: 位置编码就像给每个词贴了个“地址标签”。比如“国王喜欢音乐”，即使模型同时看这三个词，它也知道“国王“是第1个，“喜欢"是第2个，“音乐”是第3个。
怎么工作:
用数学公式(通常是正弦和余弦函数)为每个位置生成一个独特向量。
把这个向量加到词的embedding上，这样词的信息里就带上了位置的“记号”
为什么重要: 没有位置编码，Transformer会把“我喜欢你“和“你喜欢我“看成一样的，因为它只看词，不看顺序。
4.前馈神经网络(Feed-Forward Network)
Transformer的每一层除了注意力机制，还有一个前馈神经网络，用来进一步加工信息。
通俗比喻: 把它想成一个“信息加工厂”。注意力机制把词的关系理清楚后，这个加工厂再把这些信息“精炼“一下，挖出更深层次的特征。
怎么工作:
每个词的向量(来自注意力层)单独进一个两层的小网络。
第一层做线性变换(简单放大或缩小)，加个激活函数(比如ReLU，让信息更有“层次感”)，再做一次线性变换。
每个词都独立处理，不互相干扰。
5.层归一化(Layer Normalization)
这是个辅助工具，用来让模型训练更稳定。
通俗比喻: 层归一化像是给每层输出的信息“调音量”。如果有些值太大或太小，可能会让模型“听不清”，归一化就把它们拉到差不多的高度，保持信息传递顺畅。
怎么工作:
对每个词的向量，算出它的均值和方差。把向量调整一下(减均值除以方差)，再用可调的参数稍微缩放和偏移。
6.残差连接(Residual Connection)
这是另一个训练“神器”，让深层网络更容易学东西。
通俗比喻: 残差连接像是给模型开了个“快捷通道”。信息可以直接从前面跳到后面，不用担心在复杂的层里走丢了。
怎么工作:
在注意力层或前馈网络后，把输入和输出加在一起。这样即使某层没学好，信息也能原样传下去，不会完全丢失。
