Deepfakeとは実際に何か
deepfake とは、AIによって合成されたメディア — 音声、画像、または映像 — であり、実在の人物が実際には言っても行ってもいないことを言ったり行ったりしているように見せるものです。この技術自体は新しいものではありませんが、最近2つの点が変わりました。安価になったこと、そして、一般の視聴者には見分けがつかないほど十分に高品質になったことです。選挙においては、この組み合わせにより、ある人物自身の声と顔が、敵対者が借用できるものへと変わります。
この脅威について一般に抱かれているイメージは、候補者の完璧な偽動画です。だが、これまでの現実はより控えめで、より巧妙です。最も効果的な政治的deepfakeは、映像ではなく音声でした。音声のほうが生成コストが低く、偽動画を見破る視覚的な手がかりがなく、私的なメッセージングアプリ内の音声メモを通じて目に見えない形で拡散するからです。
Slovakiaの事例: 静寂の中の偽造
参照すべき事例は、2023年9月30日のSlovakiaの議会選挙です。投票開始のおよそ48時間前、ソーシャルメディア上で音声クリップが拡散し、自由主義政党 Progressive Slovakia の党首 Michal Šimečka と、新聞 Denník N の記者が、Roma 少数派から投票用紙を買い取って票を操作する方法について話しているかのように装っていました。その会話は実際には起きておらず、音声は fabrication でした。
それを危険にしたのは、偽造の出来ではなくタイミングでした。それは、Slovakia の選挙前48時間のモラトリアム — メディアと政治家が選挙運動を制限される法定の静粛期間 — の中に入り込んだため、最も効果的に反論できるはずの当事者が、それが拡散している間に大きく応答することを制約されました。Progressive Slovakia はその後、選挙に僅差で敗れました。
ここでは「0 bullshit」の基準が重要です。これを「選挙を決めたdeepfake」と呼びたくなるのは容易です。しかし、Slovakia の事例を慎重に学術分析した結果、そうした確実性は根拠がないことが示されました。偽造が結果に与えた実際の影響は、票を動かした他のあらゆる要因から切り分けることが不可能だからです。率直な教訓は、手法 — タイミングによって武器化された偽造 — に関するものであって、結果が変わったことの立証ではありません。
2つの脅威: 偽造と嘘つきの配当
Deepfake は、選挙に対して2つの異なる形で脅威となり、後者は見落とされやすいものです。
- 捏造されたクリップ。 候補者を中傷したり、スキャンダルを捏造したりするために公開される合成音声または映像。理想的には、Slovakia のように反論が間に合わないほど遅く出されます。
- liar's dividend。 より微妙な害です。説得力のある偽造が存在することを誰もが知るようになると、実際の録音で不利な場面を押さえられた政治家は、それが deepfake だと主張するだけで済みます。技術が存在するという事実そのものが、嘘をつく者に既製の逃げ道を与えるのです — そのため、実際に偽造が使われていなくても、deepfake は信頼を損ないます。
後者のほうが、長期的にはより大きな脅威だと考えられます。単一の偽造は反証できますが、「見れば信じる」という一般的な崩壊は反証できず、誠実な者にも不誠実な者にも同様に害を及ぼします。
なぜ音声が最前線なのか
音声が先行している理由を具体的に述べる価値があります。
- コスト。 実用的な音声クローンには、対象者の実際の発話が数分あれば足ります。公人であれば容易に確保できます。
- 視覚的な手がかりがない。 偽動画は、手、歯、瞬き、照明によってなお偽装が露見します。音声には、一般の聞き手にとって同等の見分けの手がかりがありません。
- 低品質が欠陥を隠す。 意図的に電話品質のクリップにすれば、人工的な痕跡も不自然な接続品質のように聞こえ、偽造とは受け取られにくくなります。
- 暗い拡散。 音声メモは、WhatsApp、Telegram、Signal といった閉じた経路を通じて移動し、事実確認機関やプラットフォームが介入のために目にすることができません。
実際に選挙を守るもの
検出ツールは役立ちますが、常に偽造に後れを取ります。そのため、持続的な防御は手続き的かつ人的なものです。
- Prebunking。 土壇場の偽造が起こりやすいと事前に有権者へ警告し、遅れて出てきたクリップを信じるのではなく疑って受け止めるようにすること。
- 内容より出所。 クリップがどこから来たのか — 誰が最初に投稿したのか、いつか、どのような出典か — によって評価し、どれほど説得力があるかでは判断しないこと。
- 静粛期間の落とし穴を修正すること。 Slovakia の事例は、モラトリアム規則が偽造を保護しうることを明らかにしました。複数の法域では現在、静粛期間中にどのように反証を認めるかを見直しています。
- 迅速で信頼できる反論。 なりすまされた本人と独立した報道機関による、信頼性が高く迅速な否定を、偽造が現れた瞬間に動けるよう準備しておくこと。
これらはいずれも、目で偽造を見抜くことを必要としません。幸いなことに、それは年々難しくなっているからです。疑わしいクリップを自分で精査するための実務的な技能は Verify トラックに属しますが、心構えはここから始まります。投票直前に衝撃的な録音が現れたとき、最初の問いは「これは本物か」ではなく、「これはどこから来たのか、そしてなぜ今なのか」です。