Przestań próbować rozpoznawać go na oko
Najczęstsza rada dotycząca deepfake’ów — szukaj dziwnego mrugania, licz palce, obserwuj zęby — po cichu staje się przestarzała. Takie sygnały zdradzają nieudolne fałszerstwa, ale technologia poprawia się z miesiąca na miesiąc, a fałszywki, które naprawdę mają znaczenie w wyborach, już je wyprzedziły. Najbardziej wymownym dowodem jest to, że jak dotąd najskuteczniejszy polityczny deepfake był audio, a nie wideo, a w audio nie ma palców, zębów ani mrugania, które można by w ogóle sprawdzać.
Zacznij więc od porzucenia założenia, że można wygrać pojedynek na wpatrywanie się z nowoczesnym fałszerstwem. Zwykle nie można, a próby tego uczą fałszywej pewności siebie. Dobra wiadomość jest taka, że rzadko trzeba to robić, ponieważ najsłabszym punktem fałszywki niemal nigdy nie jest samo medium — jest nim wszystko wokół medium. To ta sama lekcja co w jak weryfikować każde twierdzenie: oceniaj źródło i kontekst, a nie tylko artefakt.
Pochodzenie ma większe znaczenie niż piksele
Niezawodne pytanie nie brzmi „czy to wygląda prawdziwie?”, lecz „skąd to pochodzi?”. Deepfake może perfekcyjnie sfałszować twarz i głos; nie może natomiast sfałszować wiarygodnego, możliwego do prześledzenia pochodzenia. Prawdziwe wydarzenia pozostawiają ślady — pełne nagranie, wydarzenie prasowe, relacje mediów, które wystawiłyby na szwank swoją reputację. Fałszywka zwykle pojawia się jako krótki, przycięty, niskiej jakości fragment z konta, o którym nigdy nie słyszałeś, bez żadnego oryginału w tle.
Sprawdzanie pochodzenia nie jest efektowne — wyszukiwanie najwcześniejszej wersji, szukanie źródła pierwotnego, sprawdzanie, kto jeszcze o tym pisze — ale to właśnie działa, i działa niezależnie od tego, jak przekonujące są piksele lub przebieg fali dźwiękowej.
Pułapka czasu
Deepfake’i w wyborach są wykorzystywane jako broń mniej przez jakość niż przez moment publikacji. Plan polega na opublikowaniu fałszywki późno — najlepiej w ostatnich dniach przed głosowaniem, gdy nie ma czasu na jej obalenie, a w niektórych krajach okres ciszy wyborczej prawnie ucisza osoby najlepiej przygotowane do reakcji.
Wybory parlamentarne na Słowacji w 2023 roku są przypadkiem referencyjnym. Około 48 godzin przed otwarciem lokali wyborczych sfabrykowane nagranie audio, rzekomo przyłapujące lidera partii i dziennikarza na rozmowie o fałszowaniu głosów, rozprzestrzeniło się w trakcie moratorium przedwyborczego, gdy odpowiedź była ograniczona. Partia ostatecznie przegrała minimalnie. Uczciwa lekcja nie brzmi, że fałszywka przesądziła o wyniku wyborów — tego nie da się udowodnić — lecz że jej timing był całym projektem. Z tego wynika praktyczna zasada: bądź najbardziej podejrzliwy wobec klipu właśnie wtedy, gdy wydaje się najbardziej obciążający i pojawia się w najbardziej decydującym momencie.
Sygnały wizualne i dźwiękowe (oraz dlaczego zanikają)
Używane ostrożnie, stare oznaki wciąż mają pewną wartość wobec słabych fałszywek:
| Medium | Możliwy sygnał | Zastrzeżenie |
|---|---|---|
| Wideo | Nienaturalne mruganie, dziwne dłonie/zęby, rozmycie przy linii włosów, rozjazd ruchu warg z dźwiękiem | Znika w dobrych fałszywkach |
| Wideo | Oświetlenie lub cienie niepasujące do sceny | Obecnie łatwe do poprawnego odwzorowania |
| Audio | Spłaszczone emocje, dziwny oddech, robotyczna kadencja | Często maskowane przez niską jakość |
| Dowolne | Zbyt krótkie, zbyt mocno przycięte, bez kontekstu | Najtrwalszy sygnał |
Dwa ostrzeżenia. Po pierwsze, obecność sygnału sugeruje fałszywkę, ale brak sygnałów niczego nie dowodzi — najlepsze fałszywki nie mają żadnych. Po drugie, nie daj się złapać w pułapkę lustrzanego odbicia: istnienie deepfake’ów pozwala ludziom odrzucać autentyczne nagrania jako fałszywe. Ten odruch — dywidenda kłamcy — oznacza, że „to pewnie deepfake” również nie jest wolną przepustką, ani dla ciebie, ani dla osoby uchwyconej na nagraniu.
Narzędzia pomagają, ale nie rozstrzygają
Istnieją automatyczne detektory, a organizacje takie jak WITNESS zabiegały o szerszy do nich dostęp. Warto z nich korzystać — ale jako z wskazówki, nie wyroku. Wykrywanie konsekwentnie pozostaje w tyle za generowaniem, a narzędzia dają wyniki fałszywie dodatnie i fałszywie ujemne, więc wynik pojedynczego narzędzia powinien być rozpatrywany razem z pochodzeniem i kontekstem, nigdy ich nie zastępować.
Trwałe zabezpieczenia są ludzkie i zostały omówione w deepfake’ach w wyborach: prebunking, aby odbiorcy spodziewali się fałszywek publikowanych w ostatniej chwili, szybka i wiarygodna odpowiedź oraz nawyk zadawania pytania „skąd to pochodzi i dlaczego właśnie teraz?” przed pytaniem „czy to wygląda prawdziwie?”. Uporządkuj to we właściwej kolejności, a będziesz już przed fałszywkami — bez potrzeby prześcigania pojedynczego piksela wzrokiem.