Co deepfake ve skutečnosti je
Deepfake je médium — audio, obraz nebo video — syntetizované umělou inteligencí tak, že skutečná osoba vypadá, jako by řekla nebo udělala něco, co nikdy neudělala. Tato technologie není nová, ale v poslední době se změnily dvě věci: zlevnila a stala se natolik kvalitní, že ji běžný divák nerozezná. Ve volbách tato kombinace mění vlastní hlas a tvář člověka v něco, co si protivník může vypůjčit.
Oblíbená představa této hrozby je dokonalé falešné video kandidáta. Dosavadní realita je skromnější a chytřejší: nejúčinnější politické deepfaky byly dosud audio, nikoli video — protože audio je levnější na vytvoření, nenese žádné vizuální znaky, které prozrazují falešné video, a neviditelně se šíří prostřednictvím hlasových zpráv v aplikacích pro soukromou komunikaci.
Případ Slovensko: faleš v tichu
Referenčním příkladem jsou parlamentní volby na Slovensku dne 30. září 2023. Přibližně 48 hodin před otevřením volebních místností se na sociálních sítích rozšířil audiozáznam, který měl zachycovat Michala Šimečku, lídra liberální strany Progressive Slovakia, a novináře z deníku Denník N při rozhovoru o tom, jak zmanipulovat hlasování nákupem hlasovacích lístků od romské menšiny. Tento rozhovor se nikdy neuskutečnil; audio bylo falzifikátem.
Nebezpečným jej nečinila kvalita falzifikátu, ale načasování. Objevilo se v rámci slovenského 48hodinového předvolebního moratoria — zákonem stanoveného období ticha, kdy jsou média a politici omezeni v kampani — takže právě ti, kdo byli nejlépe schopni jej vyvrátit, byli při jeho šíření omezeni v možnosti hlasitě reagovat. Progressive Slovakia nakonec volby těsně prohrála.
Zde je důležitý standard „0 bullshit“. Je lákavé označit to za „deepfake, který rozhodl volby“. Pečlivá akademická analýza slovenského případu však zjistila, že opačný druh jistoty není na místě: skutečný dopad falzifikátu na výsledek nelze izolovat od všeho ostatního, co ovlivnilo hlasy. Poctivé poučení se týká metody — falzifikátu zneužitého načasováním — nikoli prokázané změny výsledku.
Dvě hrozby: falzifikát a dividenda lháře
Deepfaky ohrožují volby dvěma odlišnými způsoby a ten druhý se snadno přehlédne.
- Vytvořený záznam. Syntetické audio nebo video zveřejněné s cílem poškodit kandidáta nebo fingovat skandál — ideálně příliš pozdě na vyvrácení, jako na Slovensku.
- Dividenda lháře. Jemnější škoda. Jakmile všichni vědí, že přesvědčivé falzifikáty existují, politik přistižený na skutečném záznamu může jednoduše tvrdit, že jde o deepfake. Už samotná existence technologie dává lhářům hotový únikový východ — deepfaky tak narušují důvěru i tehdy, když není nasazen žádný falzifikát.
Druhá hrozba je patrně větším dlouhodobým rizikem. Jediný falzifikát lze vyvrátit; obecný rozpad zásady „co vidím, tomu věřím“ nikoli, a poškozuje poctivé i nepoctivé stejně.
Proč je hranicí audio
Stojí za to uvést konkrétně, proč vede audio:
- Cena. Použitelný hlasový klon vyžaduje jen několik minut skutečného projevu cílové osoby — u veřejně činných osob je toho dostatek.
- Žádné vizuální znaky. Falešné video se stále prozrazuje rukama, zuby, mrkáním a osvětlením. Audio nemá pro běžného posluchače žádné srovnatelné prozrazující znaky.
- Nízká kvalita zakrývá chyby. Záměrně telefonní kvalita záznamu způsobí, že jakékoli artefakty znějí jako špatné spojení, nikoli jako falzifikát.
- Skryté šíření. Hlasové zprávy se pohybují v uzavřených kanálech — WhatsApp, Telegram, Signal — kde je nevidí žádný fact-checker ani platforma, aby mohla zasáhnout.
Co ve skutečnosti chrání volby
Nástroje pro detekci pomáhají, ale vždy za falzifikáty zaostávají, takže trvalá obrana je procesní a lidská:
- Prebunking. Předem upozornit publikum, že falešné obsahy na poslední chvíli jsou pravděpodobné, aby byl pozdní záznam přijat s nedůvěrou, nikoli s vírou.
- Původ nad obsahem. Posuzovat záznam podle toho, odkud pochází — kdo jej zveřejnil jako první, kdy a s jakým zdrojem — nikoli podle toho, jak přesvědčivě zní.
- Oprava pasti období ticha. Případ Slovensko ukázal, jak mohou pravidla moratoria chránit falzifikát; několik jurisdikcí nyní přehodnocuje, jak je během období ticha povoleno vyvracení.
- Rychlé a důvěryhodné vyvrácení. Důvěryhodné, rychlé popření od napodobované osoby a nezávislých médií, připravené jednat v okamžiku, kdy se falzifikát objeví.
Nic z toho nevyžaduje rozpoznat falzifikát pouhým okem — což je štěstí, protože je to každým rokem těžší. Praktické dovednosti pro vlastní prověření podezřelého záznamu patří do tracku Verify, ale způsob uvažování začíná zde: když se těsně před hlasováním objeví šokující záznam, první otázka nezní „je to pravé?“, ale „odkud to pochází a proč právě teď?“