深度伪造究竟是什么
深度伪造是由 AI 合成的媒体——音频、图像或视频——使真实人物看起来说了或做了他们从未说过或做过的事情。这项技术并不新，但最近有两点发生了变化：它变得廉价，而且变得足够逼真，以至于普通观看者无法分辨。在选举中，这种组合会把一个人的声音和面孔变成对手可以借用的东西。
公众对这一威胁的印象，是一段候选人的完美伪造视频。迄今为止，现实要更有限，也更巧妙：最有效的政治深度伪造是音频，而不是视频——因为音频生成成本更低，不带有会暴露伪造视频的视觉破绽，并且会通过私人消息应用中的语音消息无形传播。
Slovakia 案例：沉默中的伪造
参考案例是 Slovakia 于 2023 年 9 月 30 日举行的议会选举。大约在投票开始前 48 小时，一段音频片段在社交媒体上传播，声称记录了自由派 Progressive Slovakia 党领袖 Michal Šimečka 与《Denník N》报的一名记者讨论如何通过向 Roma 少数族裔购买选票来操纵投票。这样的对话从未发生；该音频是一个伪造品。
它之所以危险，不在于伪造的质量，而在于时机。它落入了 Slovakia 选举前 48 小时的禁声期——这是法律规定的静默时段，媒体和政客在此期间受到竞选限制——因此，最有能力揭穿它的人在其传播时也受到约束，无法大声回应。Progressive Slovakia 最终以微弱差距输掉了选举。
这里，“0 bullshit” 标准很重要。把这称为“决定了一场选举的深度伪造”很诱人。但对 Slovakia 案例的严谨学术分析发现，不能作出相反那种确定性判断：伪造品对结果的实际影响，无法从所有其他推动选票变化的因素中单独剥离出来。诚实的教训在于方法——一种被时机武器化的伪造——而不是结果已被证明发生了改变。
两种威胁：伪造品与骗子红利
深度伪造以两种不同方式威胁选举，而第二种很容易被忽视。
- 伪造片段。 合成的音频或视频，被发布出来抹黑候选人或捏造丑闻——理想情况下太晚而无法反驳，如 Slovakia 所示。
- 骗子红利。 更隐蔽的危害。一旦人人都知道存在令人信服的伪造品，某位被真实录音抓到的政客就可以简单地声称那是深度伪造。仅仅是这项技术的存在，就给了说谎者一个现成的脱身通道——因此，即使没有任何伪造品真正被投放，深度伪造也会侵蚀信任。
第二种危害可以说是更大的长期风险。单个伪造品可以被揭穿；“眼见为实”的普遍崩塌则不能，而它会同时损害诚实者和不诚实者。
为什么音频是前沿
具体说明为什么音频领先，是值得的：
- 成本。 一个可用的声音克隆只需要目标人物几分钟的真实语音——对任何公众人物而言都很容易获得。
- 没有视觉破绽。 伪造视频仍会在手部、牙齿、眨眼和光线方面露出马脚。音频对普通听众没有对应的明显破绽。
- 低保真掩盖缺陷。 故意做成电话音质的片段，会让任何瑕疵听起来像是连接不佳，而不是伪造。
- 暗流传播。 语音消息通过封闭渠道传播——WhatsApp、Telegram、Signal——事实核查者或平台都看不到它们，因此无法介入。
真正保护选举的是什么
检测工具有帮助，但总是落后于伪造品，因此持久的防线是程序性的和人的因素：
- 预先辟谣。 提前提醒受众，最后时刻的伪造很可能出现，因此当晚到的片段会先被怀疑，而不是被相信。
- 重来源而非内容。 根据片段来自何处——谁最先发布、何时发布、依据什么来源——而不是根据它听起来有多可信来判断。
- 修补静默期陷阱。 Slovakia 案例暴露了禁声规则如何可能保护伪造品；一些司法辖区现在正在重新考虑在静默期内如何允许揭穿谣言。
- 快速、可信的反驳。 由被冒充者和独立媒体提供的可信、迅速的否认，一旦伪造品出现就立即行动。
这些都不需要靠肉眼识别伪造——这很幸运，因为这件事每年都在变得更难。自行审视可疑片段的实用技能属于 Verify 轨道，但思维方式从这里开始：当一段令人震惊的录音在投票前夕出现时，第一个问题不是“这是真的吗？”，而是“它从哪里来，为什么是现在？”