Čo deepfake v skutočnosti je
Deepfake je médium — zvuk, obraz alebo video — syntetizované umelou inteligenciou tak, aby skutočná osoba pôsobila, že hovorí alebo robí niečo, čo nikdy neurobila. Táto technológia nie je nová, no v poslednom čase sa zmenili dve veci: stala sa lacnou a stala sa dostatočne kvalitnou na to, že ju bežný divák nedokáže rozpoznať. Vo voľbách táto kombinácia mení vlastný hlas a tvár človeka na niečo, čo si môže protivník prisvojiť.
Rozšírená predstava o tejto hrozbe je dokonalé falošné video kandidáta. Doterajšia realita je skromnejšia a prefíkanejšia: najúčinnejšie politické deepfakes boli zvukové, nie video — pretože zvuk sa generuje lacnejšie, nenesie žiadne vizuálne znaky, ktoré odhaľujú falošné video, a neviditeľne sa šíri prostredníctvom hlasových správ v aplikáciách na súkromné správy.
Prípad Slovensko: falošný obsah v tichu
Referenčným príkladom sú parlamentné voľby na Slovensku z 30. septembra 2023. Približne 48 hodín pred otvorením volebných miestností sa na sociálnych sieťach šíril zvukový záznam, ktorý mal zachytávať Michala Šimečku, lídra liberálnej strany Progresívne Slovensko, a novinára z denníka Denník N pri diskusii o tom, ako zmanipulovať hlasovanie nákupom hlasovacích lístkov od rómskej menšiny. Táto konverzácia sa nikdy neuskutočnila; zvuk bol falzifikát.
Nebezpečným ho nerobila kvalita falzifikátu, ale načasovanie. Zasiahol do 48-hodinového predvolebného moratória na Slovensku — zákonom stanoveného obdobia ticha, počas ktorého sú médiá a politici obmedzení v kampani — takže práve tí, ktorí boli najlepšie postavení na jeho vyvrátenie, nemohli počas jeho šírenia hlasno reagovať. Progresívne Slovensko nakoniec voľby tesne prehralo.
Tu je dôležitý štandard „0 bullshit“. Je lákavé nazvať to „deepfake, ktorý rozhodol voľby“. Starostlivá akademická analýza slovenského prípadu však ukázala, že opačný druh istoty nie je opodstatnený: skutočný vplyv falzifikátu na výsledok nemožno oddeliť od všetkého ostatného, čo ovplyvnilo hlasy. Poctivé ponaučenie sa týka metódy — falzifikátu zneužitého načasovaním — nie preukázanej zmeny výsledku.
Dve hrozby: falzifikát a dividenda klamára
Deepfakes ohrozujú voľby dvoma odlišnými spôsobmi a ten druhý sa dá ľahko prehliadnuť.
- Vytvorený záznam. Syntetický zvuk alebo video zverejnené s cieľom očierniť kandidáta alebo sfalšovať škandál — ideálne príliš neskoro na vyvrátenie, ako na Slovensku.
- Dividenda klamára. Jemnejšia škoda. Keď všetci vedia, že presvedčivé falzifikáty existujú, politik prichytený na skutočnom zázname môže jednoducho tvrdiť, že ide o deepfake. Už samotná existencia technológie dáva klamárom pripravený únikový východ — deepfakes tak narúšajú dôveru aj vtedy, keď sa žiadny falzifikát v skutočnosti nepoužije.
Druhý problém je pravdepodobne väčšou dlhodobou hrozbou. Jediný falzifikát možno vyvrátiť; všeobecný rozpad princípu „vidieť znamená veriť“ nie, a poškodzuje poctivých aj nepoctivých rovnako.
Prečo je zvuk na čele vývoja
Je vhodné uviesť konkrétne dôvody, prečo vedie zvuk:
- Cena. Použiteľná hlasová kópia potrebuje len niekoľko minút skutočnej reči cieľovej osoby — čo je pre každú verejne známu osobu ľahko dostupné.
- Žiadne vizuálne znaky. Falošné video sa stále prezrádza rukami, zubami, žmurkaním a osvetlením. Zvuk nemá pre bežného poslucháča žiadne porovnateľné prezrádzajúce znaky.
- Nízka kvalita zakrýva chyby. Zámerne telefónnej kvality záznam spôsobí, že akékoľvek artefakty znejú ako zlé spojenie, nie ako falzifikát.
- Skryté šírenie. Hlasové správy sa presúvajú cez uzavreté kanály — WhatsApp, Telegram, Signal — kde ich žiadny fact-checker ani platforma nevidí, aby mohla zasiahnuť.
Čo v skutočnosti chráni voľby
Nástroje na detekciu pomáhajú, ale vždy za falzifikátmi zaostávajú, takže trvalá obrana je procedurálna a ľudská:
- Prebunking. Vopred upozorniť publikum, že falošné obsahy na poslednú chvíľu sú pravdepodobné, aby sa neskorý záznam stretol so skepsou, nie s vierou.
- Pôvod pred obsahom. Posudzovať záznam podľa toho, odkiaľ pochádza — kto ho zverejnil ako prvý, kedy a s akým zdrojom — a nie podľa toho, ako presvedčivo znie.
- Oprava pasce obdobia ticha. Prípad Slovensko ukázal, ako môžu pravidlá moratória chrániť falzifikát; viaceré jurisdikcie teraz prehodnocujú, ako je počas obdobia ticha povolené vyvracanie.
- Rýchla, dôveryhodná reakcia. Hodnoverné a rýchle popretie zo strany zosobnenej osoby a nezávislých médií, pripravené konať v momente, keď sa falzifikát objaví.
Na nič z toho netreba rozpoznať falzifikát okom — čo je šťastie, pretože je to každým rokom ťažšie. Praktické zručnosti na vlastné preskúmanie podozrivého záznamu patria do trasy Verify, no nastavenie mysle sa začína tu: keď sa tesne pred hlasovaním objaví šokujúci záznam, prvá otázka neznie „je to skutočné?“, ale „odkiaľ to prišlo a prečo práve teraz?“