我最早接触到多头注意力时，脑子里蹦出的第一个疑问是：这跟多线程是一个意思吗？一个头不够用，多来几个就能提速？后来啃完原始论文才发现，我完全搞错了方向。多头不是为了让模型算得快，而是为了让模型“看得广”。今天咱们就聊聊，为什么 Transformer 需要让模型同时长好几个“脑袋”去看一句话。
先复习一下，注意力机制在干什么。简单说，就是给句子里的每个词打分，决定该关注其他词的程度。比如，在“The animal didn’t cross the street because it was too tired”中，模型需要知道“it”指的是“animal”还是“street”。注意力机制通过计算查询（Query）、键（Key）、值（Value）来实现。每个词都生成自己的 Q、K、V，然后计算“嘿，我该跟谁多热络热络？”——这就是注意力权重。但问题来了：一个注意力头，只能学出一种关系模式。如果它学的是“代词指代”这种关系，那“主语与谓语”的语法关系就可能被忽略。语言里藏着几十种关系：句法、语义、长距离依赖、局部块结构……一个头哪里忙得过来？
这就是多头注意力的直觉根源。论文里说得很直白：“Multi-head attention allows the model to jointly attend to information from different representation subspaces at different positions.” 翻译成人话：多个头，让模型能从不同“视角”同时看一句话，抓取不同的关系。每个头有自己的 Q、K、V 权重矩阵，它们独立学习，互不干扰。所以，不是让一个头死命盯着看，而是让好几个头分头行事，最后把它们的发现拼接起来。这就像你读一首诗，一个头看韵律，一个头看意象，一个头看语法结构——多个脑袋一起上，理解才立体。
我最早以为多头是并行计算的加速器，多个头同时算，快就完事了。后来看代码实现才醒悟：虽然计算上可以并行，但核心收益是表示能力的飞跃。如果把一个头的输出维度压得太低，模型就会变成“近视眼”，捕捉不到精细关系。而多头机制把维度拆成多个小份，每个头还保持一定的“视野”，组合起来又不丢信息。这就像你有一组不同焦距的透镜，单独看都模糊，但叠在一起就高清。具体来说，假设我们设总隐藏维度为 512，头数为 8，那么每个头只处理 64 维的子空间。每个头在它的“小世界”里计算注意力，最后串起来再投影回 512 维。这样，模型既保持了足够的维度，又让不同头学会了专业化。
有人会问：那为什么不让单个头也学多种关系？理论上也许能，但实践上太难。单头注意力很容易陷入“平均主义”——所有关系搅在一起，权重找不准重点。多头则强制分离，每个头被逼着去学不同的东西。论文实验也证实了这点：移除头或减少头数，都会显著降低翻译质量。而且，不同头确实学出了不同的行为模式，比如有的头专门关注相邻词，有的头负责长距离依赖。这就像Jay Alammar 的图解里展示的，一个头在“making”和“more difficult”之间建立连接，而另一个头则关注“making”和“complex”的关系。
但多头也不是万能的。它增加了计算量，因为每个头都要算一遍注意力，虽然可以并行，但总参数量膨胀了。而且，有些头可能学不到有用信息，变成“废头”——论文自身就发现，某些头可以剪枝而不影响性能。另外，头数不是越多越好，需要平衡维度与表示能力。如果头数太多，每个头的维度太小，就会像针孔相机一样，啥也看不清。当前主流的 Transformer 模型，如 BERT 和 GPT，通常用 12 到 16 个头，这是大量实验试出来的甜点区。
最后，再对比一下：单头注意力就像你一个人看画，只能注意一个点；多头注意力像你有一群专家，有人看构图，有人看色彩，有人看笔触，最后综合给出理解。这解释了为什么 Transformer 在 NLP 任务上能碾压 RNN 和 CNN——因为后者要么顺序处理，要么局部感受野，而多头注意力并行捕捉全局的多种关系。
进阶阅读：多头注意力的计算复杂度
假设序列长度为 n，每个头的维度为 d_k，头数为 h。单头注意力复杂度为 O(n^2 · d_k)，多头总复杂度为 O(n^2 · d_model)，其中 d_model = h · d_k。所以，多头没有增加平方级的复杂度，但常数因子变大。
多头注意力容易陷入哪些误解？
误解一：多个头是为了并行计算，提高速度。不对，并行是副产物，核心是不同表示子空间。
误解二：每个头都一样，只是复制粘贴。错，每个头有自己的权重矩阵，独立学习，可能学出完全不同模式。
误解三：头越多越好。实验表明，头数超过一定值后性能饱和，甚至下降。
误解四：多头注意力和集成学习是一回事。不是，多头是一个模型内的并行部件，集成是多个模型。
回到个人认知：我当初看论文时，最震撼的不是多头本身，而是“split heads”这个操作。它把一个大向量切分成多个小向量，每个头在小空间里玩，最后再拼回去。这让我想起分形几何——宏观和微观结构自相似。多头注意力其实是在强迫模型学习一种“分布式表示”，每个头负责一个子空间，有点像多头戟——刺出去，每个尖都扎到不同位置。
总而言之，多头注意力是 Transformer 的“眼睛”，不是一只，而是一群。它让模型从一句话里看出多个维度的关系，而这些关系堆叠起来，才构成了我们今天看到的、能写诗能编程的 AI。但它不是银弹，计算开销和头数选择都需要仔细权衡。未来，可能会有动态头数、头剪枝等技术，让多头更高效。但理解它的本质——不是加速，而是视野——才是关键。
原创文章，作者：guanweilu，如若转载，请注明出处：https://guanweilu.cn/article/176.html