Sügavvõltsingud valimistel

Mis sügavvõltsing tegelikult on

Deepfake on meedia — heli, pilt või video —, mida on tehisintellekti abil sünteesitud nii, et päris inimene näib ütlevat või tegevat midagi, mida ta kunagi ei teinud. Tehnoloogia ei ole uus, kuid hiljuti muutus kaks asja: see muutus odavaks ja piisavalt heaks, et juhuslik vaataja ei suuda seda eristada. Valimiste kontekstis muudab see kombinatsioon inimese enda hääle ja näo millekski, mida vastane saab kasutada.

Ohu populaarne kujutis on kandidaadi laitmatu võltsvideo. Seni on tegelikkus olnud tagasihoidlikum ja kavalam: kõige tõhusamad poliitilised sügavvõltsingud on olnud helilised, mitte videod — sest heli on odavam luua, selles puuduvad visuaalsed tunnused, mis paljastavad võltsvideo, ning see liigub nähtamatult läbi häälmärkmete eraõnumirakendustes.

Slovakkia juhtum: võlts vaiksuses

Viitejuhtum on Slovakkia parlamendivalimised 30. septembril 2023. Umbes 48 tundi enne valimisjaoskondade avamist levis sotsiaalmeedias heliklipp, mis väidetavalt salvestas liberaalse erakonna Progressive Slovakia juhi Michal Šimečka ja ajalehe Denník N ajakirjaniku vestlust sellest, kuidas valimistulemusi võltsida, ostes hääli romade vähemuselt. Sellist vestlust ei toimunud; heli oli võltsing.

Ohtlikuks ei teinud seda mitte võltsingu kvaliteet, vaid ajastus. See jõudis Slovakkia 48-tunnise valimiseelse moratooriumi ajal — seadusega ette nähtud vaikuseperioodil, mil meedial ja poliitikutel on kampaaniategevus piiratud —, nii et just need, kes oleksid olnud kõige paremas positsioonis seda ümber lükata, ei saanud selle levimise ajal valjult reageerida. Progressive Slovakia kaotas valimised napilt.

Siin on „0 bullshit“ standard oluline. On ahvatlev nimetada seda „sügavvõltsinguks, mis otsustas valimised“. Slovakkia juhtumi hoolikas akadeemiline analüüs leidis, et vastupidine kindlus ei ole põhjendatud: võltsingu tegelikku mõju tulemusele ei ole võimalik eraldada kõigest muust, mis hääli mõjutas. Aus õppetund puudutab meetodit — ajastusega relvastatud võltsingut —, mitte tõendatud tulemuse muutust.

Kaks ohtu: võltsing ja valetaja dividend

Sügavvõltsingud ohustavad valimisi kahel erineval viisil ning teine neist jääb kergesti märkamata.

1. Võltsitud klipp. Sünteetiline heli või video, mis avaldatakse kandidaadi laimamiseks või skandaali lavastamiseks — ideaaljuhul liiga hilja, et sellele vastata, nagu Slovakkias.
2. Valetaja dividend. Peenem kahju. Kui kõik teavad, et veenvad võltsingud on olemas, võib poliitik, kes jääb vahele päris salvestisel, lihtsalt väita, et tegemist on sügavvõltsinguga. Ainuüksi tehnoloogia olemasolu annab valetajatele valmis põgenemistee — nii õõnestavad sügavvõltsingud usaldust isegi siis, kui ühtegi võltsingut tegelikult ei kasutata.

Teine oht on tõenäoliselt suurem pikaajaline risk. Ühe võltsingu saab ümber lükata; üldist „nägemine on uskumine“ kokkuvarisemist ei saa ning see kahjustab nii ausaid kui ka ebaausaid.

Miks heli on eesliin

Tasub konkreetselt selgitada, miks heli on eesliinil:

• Maksumus. Kasutatava häälekoopia jaoks on vaja vaid mõne minuti jagu sihtmärgi päris kõnet — avaliku elu tegelase puhul on seda rohkesti.
• Visuaalsete tunnuste puudumine. Võltsvideo reedab end endiselt kätes, hammastes, pilgutamises ja valgustuses. Helil ei ole juhusliku kuulaja jaoks samaväärseid paljastavaid tunnuseid.
• Madal kvaliteet varjab puudusi. Taotluslikult telefonikvaliteediga klipp paneb kõik artefaktid kõlama nagu halb ühendus, mitte võltsing.
• Varjatud levik. Häälemärkmed liiguvad suletud kanalites — WhatsApp, Telegram, Signal —, kus ükski faktikontrollija ega platvorm neid sekkumiseks ei näe.

Mis tegelikult kaitseb valimisi

Tuvastustööriistad aitavad, kuid jäävad võltsingutest alati maha, seega on püsivad kaitsemeetmed menetluslikud ja inimlikud:

• Eelhoiatamine. Publiku ettehoiatamine, et viimasel hetkel levitatavad võltsingud on tõenäolised, nii et hiline klipp kohtab uskumise asemel kahtlust.
• Päritolu sisu asemel. Klipi hindamine selle järgi, kust see tuli — kes selle esimesena postitas, millal ja millise allikaga —, mitte selle järgi, kui veenvalt see kõlab.
• Vaikuseperioodi lõksu parandamine. Slovakkia juhtum näitas, kuidas moratooriumi reeglid võivad kaitsta võltsingut; mitmed jurisdiktsioonid kaaluvad nüüd uuesti, kuidas ümberlükkamine on vaikuseperioodil lubatud.
• Kiire ja usaldusväärne vastus. Usaldusväärne ja kiire eitamine kehastatava isiku ning sõltumatute väljaannete poolt, valmis tegutsema kohe, kui võltsing ilmub.

Ükski neist ei eelda võltsingu äratundmist silmaga — mis on õnneks, sest see muutub igal aastal raskemaks. Praktilised oskused kahtlase klipi ise kontrollimiseks kuuluvad Verify suunda, kuid mõtteviis algab siit: kui šokeeriv salvestis ilmub vahetult enne hääletust, ei ole esimene küsimus „kas see on päris?“, vaid „kust see tuli ja miks nüüd?“