Kas patiesībā ir deepfake
Deepfake ir medijs — audio, attēls vai video —, ko sintezējis MI tā, ka šķiet, ka īsts cilvēks saka vai dara kaut ko, ko viņš nekad nav darījis. Šī tehnoloģija nav jauna, taču nesen mainījās divas lietas: tā kļuva lēta un pietiekami laba, lai ikdienišķs skatītājs to nespētu atšķirt. Vēlēšanu kontekstā šī kombinācija cilvēka paša balsi un seju pārvērš par kaut ko, ko pretinieks var aizņemties.
Populārais priekšstats par šo apdraudējumu ir nevainojams viltots kandidāta video. Līdzšinējā realitāte ir pieticīgāka un gudrāka: visefektīvākie politiskie deepfake līdz šim ir bijuši audio, nevis video — jo audio ir lētāk ģenerēt, tajā nav vizuālo pazīmju, kas atmasko viltotu video, un tas nemanāmi izplatās ar balss ziņām privātās ziņapmaiņas lietotnēs.
Slovākijas gadījums: viltojums klusumā
Atsauces piemērs ir Slovākijas parlamenta vēlēšanas 2023. gada 30. septembrī. Aptuveni 48 stundas pirms iecirkņu atvēršanas sociālajos medijos izplatījās audioieraksts, kurā it kā bija dzirdams Michal Šimečka, liberālās partijas Progressive Slovakia līderis, un laikraksta Denník N žurnālists, apspriežot, kā viltot balsojumu, pērkot biļetenus no romu minoritātes. Šāda saruna nekad nenotika; audio bija viltojums.
To bīstamu padarīja nevis viltojuma kvalitāte, bet gan laiks. Tas parādījās Slovākijas 48 stundu pirmsvēlēšanu moratorija laikā — juridiski noteiktā klusuma periodā, kad medijiem un politiķiem ir ierobežotas iespējas veikt kampaņu —, tāpēc tieši tiem, kas vislabāk varētu to atmaskot, bija ierobežotas iespējas skaļi reaģēt, kamēr tas cirkulēja. Progressive Slovakia vēlēšanās zaudēja ar nelielu starpību.
Šeit nozīme ir standartam "0 bullshit". Ir kārdinoši to nosaukt par "deepfake, kas izšķīra vēlēšanas". Rūpīga Slovākijas gadījuma akadēmiskā analīze secināja, ka pretējais noteiktības veids nav pamatots: viltojuma faktiskā ietekme uz rezultātu nav izolējama no visa pārējā, kas ietekmēja balsis. Godīgā mācība ir par metodi — ar laiku bruņotu viltojumu —, nevis par pierādītu iznākuma maiņu.
Divi draudi: viltojums un melu dividende
Deepfake apdraud vēlēšanas divos atšķirīgos veidos, un otro ir viegli nepamanīt.
- Izdomātais ieraksts. Sintētisks audio vai video, kas publicēts, lai nomelnotu kandidātu vai safabricētu skandālu — ideālā gadījumā pārāk vēlu, lai to atspēkotu, kā Slovākijā.
- Melu dividende. Smalkāks kaitējums. Tiklīdz visi zina, ka pārliecinoši viltojumi pastāv, politiķis, kas pieķerts īstā ierakstā, var vienkārši apgalvot, ka tas ir deepfake. Pats tehnoloģijas esamības fakts dod meliem gatavu glābšanās ceļu — tāpēc deepfake grauj uzticēšanos pat tad, ja nekāds viltojums patiesībā netiek izmantots.
Otrais, iespējams, ir lielāks ilgtermiņa apdraudējums. Vienu viltojumu var atmaskot; vispārēju "redzēt nozīmē ticēt" sabrukumu nevar, un tas kaitē gan godīgajiem, gan negodīgajiem.
Kāpēc audio ir priekšplānā
Ir vērts konkrēti paskaidrot, kāpēc priekšgalā ir audio:
- Izmaksas. Lietojamai balss klonēšanai vajadzīgas tikai dažas minūtes mērķa īstas runas — publiskai personai tas ir viegli pieejams apjoms.
- Nav vizuālo pazīmju. Viltots video joprojām nodod sevi ar rokām, zobiem, mirkšķināšanu un apgaismojumu. Audio ikdienišķam klausītājam nav līdzvērtīgu atmaskojošu pazīmju.
- Zema kvalitāte slēpj trūkumus. Apzināti telefona kvalitātes ieraksts liek jebkuriem artefaktiem izklausīties pēc slikta savienojuma, nevis viltojuma.
- Tumšā izplatība. Balss ziņas pārvietojas slēgtos kanālos — WhatsApp, Telegram, Signal —, kur tās neredz ne faktu pārbaudītāji, ne platformas, lai iejauktos.
Kas patiesībā aizsargā vēlēšanas
Noteikšanas rīki palīdz, taču vienmēr atpaliek no viltojumiem, tāpēc noturīgākā aizsardzība ir procesuāla un cilvēciska:
- Iepriekšēja atmaskošana. Iepriekš brīdināt auditoriju, ka pēdējā brīža viltojumi ir ticami, lai vēls ieraksts tiktu uztverts ar aizdomām, nevis ticību.
- Provenience, nevis saturs. Vērtēt ierakstu pēc tā izcelsmes — kas to publicēja pirmais, kad un ar kādu avotu —, nevis pēc tā, cik pārliecinoši tas skan.
- Klusuma perioda slazda novēršana. Slovākijas gadījums atklāja, kā moratorija noteikumi var aizsargāt viltojumu; vairākas jurisdikcijas tagad pārskata, kā klusuma periodā ir atļauta atmaskošana.
- Ātra, uzticama atspēkošana. Ticams, ātrs noliegums no personas, kurai uzdodas par cietušo, un neatkarīgiem medijiem, gataviem reaģēt brīdī, kad parādās viltojums.
Nekam no tā nav nepieciešams viltojumu atpazīt ar aci — un tas ir labi, jo tas ar katru gadu kļūst grūtāk. Praktiskās prasmes, lai pašam pārbaudītu aizdomīgu ierakstu, pieder Verify virzienam, bet domāšanas veids sākas šeit: kad šokējošs ieraksts parādās tieši pirms balsojuma, pirmais jautājums nav "vai tas ir īsts?", bet gan "no kurienes tas nācis un kāpēc tieši tagad?"