怎么判断一个 AI 回答得好不好？最靠谱的办法是请人看。但如果你在跑实验，一天要评几千条回复，请人看到月底可能比训练模型还贵。于是有人想了个偷懒的办法：让另一个 AI 来打分。这个办法听起来就像在问 “这台秤准不准？我用另一台秤来称它”——但 2023 年的一篇论文告诉你，它还真能干活，只是这台 “秤” 有不少毛病。
给 AI 打分，为什么比想象中难？
在 LLM 出现之前，机器翻译和摘要的评估主要靠 BLEU、ROUGE 这类指标。它们的核心逻辑是：把模型输出跟参考答案做 n-gram 重叠统计。问题是，一个意思可以有无数种说法，“今天天气不错” 和 “今天天儿挺好” 在 BLEU 眼里就是两回事。到了 ChatGPT 这类开放式对话场景，参考答案根本不存在，BLEU 直接失效。
那用人工评估？可以，但成本极高。而且不同的人对 “好回答” 的标准不一样。Zheng 等人的研究 指出，人类标注者之间的评分一致性其实并不高。更麻烦的是，随着模型能力越来越强，人类很难一眼看出哪个回答更好——就像两个围棋高手对局，普通人根本分不清谁下得更高明。
裁判模型到底怎么当裁判？
LLM-as-a-Judge 的想法很简单：把评估任务变成一个问答任务。你给裁判模型一段指令，说 “你是资深评测员，请根据相关性、准确性、流畅度给下面的回答打分，1 到 10 分”，然后把待评估的回答贴进去，它就会给你一个分数。如果要比较两个模型，就让它做选择题：“回答 A 和回答 B，哪个更好？”
这种做法在 2023 年被 Zheng 等人正式命名为 LLM-as-a-Judge，并发布在 MT-Bench 和 Chatbot Arena 中。他们的实验结果是：GPT-4 当裁判，在判断哪个回答更好的任务上，与人类偏好的重合率超过了 80%。这个数字相当惊人——意味着大部分时候，AI 裁判和人类口味是一致的。
但先别急着下结论。因为同一篇论文也承认，GPT-4 存在各种各样的偏见。后续研究更是把这些偏见挨个锤了一遍。
四个已经被实锤的偏见
我最早用 GPT-4 给模型输出打分时，觉得这工具简直神了：便宜、快、还不用伺候标注团队。直到有一天我做了个小实验——把两个回答的顺序换了一下，GPT-4 给出的赢家居然跟着变了。我第一反应是我代码写错了，检查了三遍，没毛病。后来去翻文献，才发现这不是我的问题，是裁判模型自带 “选择困难症”。
先说位置偏差。Wang 等人的研究 把两个回答互换位置，发现 GPT-3.5 和 GPT-4 对同一对回答的判断，只有 70%-80% 保持一致。也就是说，有 20%-30% 的概率，裁判的判决取决于谁先出场。这在 A/B 测试中是致命的。
第二个是自我偏好偏差。LLM Evaluators Recognize and Favor Their Own Generations 这篇论文证明，裁判模型不仅偏爱和自己同风格的回答，甚至能 “认出来” 自己的输出，然后不自觉地给高分。如果你用 GPT-4 同时做生成和评估，相当于请了一个自带 “帮亲不帮理” 属性的裁判。
第三个是冗长偏差。MT-Bench 论文里就观察到：在质量相近时，更长的回答更容易拿高分。裁判模型似乎把 “详细” 和 “正确” 混为一谈了。你写三句话，它觉得你敷衍；你写十句话，就算有一半是废话，它也可能给你更高分。
第四个是格式偏差。裁判模型对加粗、列表、小标题这类结构有明显的偏好。同样的内容，换个排版，分数就能差出一截。
这些偏见放在一起，结论很明确：LLM-as-a-Judge 不是一台中立客观的机器，它是一个带了一身人类弱点的 “自动化评委”。
怎么给裁判模型 “校准”？
针对这些问题，研究者们给出了一些实用的缓解方法：
| 偏见 | 缓解方法 |
|---|---|
| 位置偏差 | 交换顺序跑两次取平均；或使用 “both equally good” 选项 |
| 自我偏好 | 用不同模型做生成和评估；或微调专用裁判模型 |
| 冗长偏差 | 在 prompt 中强调 “简洁同样重要”，或限制回答长度 |
| 格式偏差 | 要求裁判忽略格式，先把回答转成纯文本 |
更进一步的做法是训练专门的裁判模型。Prometheus 就是一个用人类评分数据微调的开源裁判模型，它的设计目标就是接近人类判断，而不是像 GPT-4 那样什么都干。论文实验显示，Prometheus 在与人类评分的相关性上，能达到接近甚至超过 GPT-4 的水平。这说明 “裁判” 本身可以是一个专门优化的产品，而不是一个通用模型的副业。
所以，它到底能不能用？
我的判断是：能用，但必须知道它的边界。
LLM-as-a-Judge 最擅长的是相对比较——在多个回答里挑出一个更好的。这对快速筛选候选模型、迭代 prompt 非常有用。但它的绝对分数意义不大，因为分数会受长度、格式、表述方式等无关因素干扰。如果你需要的是 “这个回答在医学上是否准确” 这类事实性判断，请不要依赖大模型裁判。它连自己有没有幻觉都控制不了，凭什么相信它能判断事实？
另一个需要注意的是领域专业性。GPT-4 在通用话题上表现得像个聪明外行，但在法律、金融、编程等专业领域，它的判断可能还不如一个刚入行的专家。与其全自动用 LLM 当裁判，不如把它当作一个粗筛工具，筛完再用人工抽查。
为什么不用 GPT-4 直接生成参考答案再对比？
因为参考答案本身是主观的。你让 GPT-4 生成一个 “理想回答”，再拿它当标尺去量其他模型，等于把裁判和运动员混在一起。而且，开放任务的 “理想回答” 可能有很多个，用单一标准答案会惩罚那些不同的但同样好的回答。
裁判模型自己也可能会幻觉，打分还有意义吗？
有意义，但要区分任务。在相对比较场景中，幻觉的影响较小——就算裁判编了一个理由，它通常也能正确判断哪个回答更流畅、更完整。但在绝对评分或事实核查场景中，幻觉是致命的。所以建议只在相对比较中使用。
什么时候用 LLM-as-a-Judge 最合适？
- 快速比较两个模型版本的输出质量
- 在 RLHF 训练中作为奖励模型的替代品
- 评估开放域对话的多样性、创造性等人工容易打分的维度
最后说点掏心窝的话。我踩过位置偏差的坑之后，一度觉得 LLM-as-a-Judge 不靠谱。但后来我意识到，问题不在 “用 AI 评估 AI” 这件事本身，而在用的时候有没有把偏见控制住。就像用温度计测水温，你得知道温度计本身可能会因为环境温度而失准。你不需要它绝对精准，但你需要知道它什么时候会失灵。LLM-as-a-Judge 也一样——它是一台聪明的、有偏见的、偶尔会看走眼的仪器，你可以用它，但别把它当成真理的化身。
原创文章，作者：guanweilu，如若转载，请注明出处：https://guanweilu.cn/article/238.html