2024 年，全球有超过 40 亿人拥有投票权，60 多个国家和地区先后举行选举，从台湾、印度、印尼到南非、墨西哥、美国，再到欧盟议会。这一年被称为“超级选举年”。年初，几乎所有智库都在警告：AI 会以前所未有的规模制造虚假信息，干扰甚至推翻选举结果。到年底回头再看，没有一个国家的选举结果因为一个 deepfake 视频而改变。这算不算虚惊一场？我觉得不算。
我最初以为，AI 虚假信息会像“定向导弹”一样，在关键选区引爆几颗厉害的大炸弹——比如一个超逼真的候选人丑闻视频，瞬间反转民意。但跟踪了一整年的选举后，我发现真正的威胁不是炸弹，而是“污染”。它把信息环境搅成一锅烂粥，让真假之间的界限彻底消失。今天，你再也无法通过“眼见为实”来判断一段视频是真是假，这才是最大的问题。
三个案例，看懂 AI 虚假信息的三种打法
先说台湾。2024 年 1 月 13 日投票日前几天，网上流传一段赖清德的新年视频，画面里的他“用闽南语拜年”，但口中却说出与其选举立场相悖的两岸政策。台湾事实查核中心鉴定，这是 AI 换脸。视频虽被迅速标记为伪造，但已传遍 Line 群组，很多长辈甚至信了。一套文明的防线，在几个群组转发间就出现了裂缝。台湾事实查核中心
再看印度。大选从 4 月持续到 6 月，期间多个邦出现了“候选人亲自打电话”的拉票音频。一位地区工人党工作人员后来承认，部分音频是用 AI 语音克隆制作的，因为政客本人没有时间给每个选区的选民打电话。更夸张的是，一些政党的竞选视频直接“复活”了已故领导人——在印尼，已故总统苏哈托的 AI 视频也曾被用来“支持”特定候选人。这些内容让选民难以确认“谁在对我说话”。路透社相关报道
美国则提供了一个最惊悚的案例：新罕布什尔州初选前，成千上万选民接到了一个和拜登声音几乎完全一样的电话，劝他们“别急着投票，留着票到 11 月再投”。这通电话并非来自拜登团队，而是由 AI 生成，由一家得州的电话公司用机器人批量拨出。美国联邦通信委员会（FCC）随后宣布，用 AI 冒充真人拨打电话属于非法。FCC 公告
三个案例，正好对应三种手段：AI 换脸、语音克隆、自动拨号。它们成本低、制作快、识别难。
| 应用场景 | 地区 | AI 技术 | 目标 | 后续 |
|---|---|---|---|---|
| 抹黑候选人 | 台湾 | AI 换脸视频 | 歪曲候选人立场 | 事实核查加速，影响可控 |
| 语音拉票 | 印度/印尼 | 语音克隆+复活已故政客 | 提高亲信当选几率 | 多国出现同类现象 |
| 压制投票 | 美国 | AI 机器人电话 | 降低初选投票率 | FCC 紧急立法禁止 |
为什么 AI 虚假信息这么难防？
很多人以为，AI 虚假信息就是 deepfake 一段视频，像 PS 一样。但它的核心优势不在“像”，而在“多”。传统假新闻需要人工生产，制造者有明确的立场和有限的时间；AI 则让每一个普通用户都能批量生成不同的版本。一个针对印度农村选民的内容，可以用当地方言、讲当地问题、用当地熟悉的面孔。个性化程度高到传统宣传机器无法想象。
语音克隆的原理并不复杂：从几秒钟的真实录音里提取一个人的音色向量，再把这个向量输入文本到语音模型，就能让模型用那个人的口音说出任意句子。开源社区已经有现成工具，效果足够骗过绝大多数人。图像生成同样如此，你只需要 20 张目标人物的照片，就能生成一个换上他脸的虚拟人物。
更值得注意的，是 AI 虚假信息不只有 deepfake 一种形态。2024 年出现最多的，反而是低成本的语言模型生成文本：假新闻文章、伪造的举报信、仿真群聊记录。这些内容不需要视频那种“视觉可信度”，只需要在错误的方向上推一把。比如一张 AI 生成的“民调图表”看起来比文字更有说服力，实际上它背后没有任何统计数据。
我最早对检测技术很乐观。多年前看人脸识别演示，能识破大多数 deepfake。后来我意识到，这是猫鼠博弈：生成器每一次更新，都会吸收检测器发现的破绽。今天靠眨眼频率判断，明天生成器就加入自然的眨眼；今天靠光照方向判断，明天生成器就调整渲染。检测总是滞后，而生成正在变得不可知。
更麻烦的是，谣言传播速度远比核查快。制造者把 AI 内容丢进一个超大群组，或买一点评论区水军，等事实核查机构出报告时，播放量已经过百万。辟谣的注意力远远赶不上造谣的传播面。
“说谎者的红利”：这才是 AI 对选举的最大威胁
如果你一直关注 AI 虚假信息，你会发现真正的危害不是某个假视频让选民改了票，而是它提供了“否认一切”的免责牌。当一个丑闻视频出现，只需说“那是 AI 合成的”，即使它是真的，公众也会怀疑。反之，真正的 AI 内容也可以被包装成“实锤”来攻击对手。
这种效应叫“说谎者的红利”（Liar’s Dividend）。当 AI 让伪造变得便宜且逼真，真实素材反而失去可信度。选举成了“无法验证”的猜疑链。候选人可以用一句“这是 AI 吧”来模糊所有不利信息；同样，一个假的录音可能在社交媒体上被当成“亲口承认”的罪证。
我自己就有过这种体验。某个大选期间，群里流传一张截图，说是某候选人在私人聊天里说出不当言论。截图看起来像那么回事，但没人能证明它不是伪造的。后来那个候选人团队回应了一句“这是 AI 制造”，舆论立刻散了。真伪不重要，怀疑就够了。
技术、制度、个人，三层防线
防守需要三层协同。技术层，C2PA（内容来源与真实性联盟）在推动给每个媒体文件加数字签名。如果一段视频来自一个可验证的相机并带有签名，那它就是“真材实料”。但现实是，绝大多数传播内容不会被签名，因为大多数人不愿意给每一张自拍附上元数据。
平台层，Meta、谷歌等都要求政治广告标注 AI 生成内容。但这只约束正式广告，管不了群聊里的视频。法律层，欧盟《数字服务法》要求平台评估选举风险，美国 FCC 宣布 AI 机器人电话非法。但这些法律追赶技术的速度，仍然很慢。
所以，最终防线是你我。我的建议很简单：先找源头，再决定情绪。看到让你气血上涌的视频、录音、截图，先不转发，先去搜一下“关键词 + 查证”。这个动作会杀死大部分 AI 虚假信息的传播链。
原创文章，作者：guanweilu，如若转载，请注明出处：https://guanweilu.cn/article/2214.html