Kas iš tikrųjų yra deepfake
Deepfake yra medija — garsas, vaizdas arba vaizdo įrašas — sintetinta DI taip, kad tikras asmuo atrodo sakantis ar darantis tai, ko niekada nedarė. Ši technologija nėra nauja, tačiau neseniai pasikeitė du dalykai: ji tapo pigi ir pakankamai gera, kad atsitiktinis žiūrovas negalėtų atskirti. Rinkimuose toks derinys paverčia žmogaus balsą ir veidą tuo, ką priešininkas gali pasiskolinti.
Populiarus grėsmės įvaizdis yra nepriekaištingas suklastotas kandidato vaizdo įrašas. Tačiau iki šiol realybė yra kuklesnė ir gudresnė: veiksmingiausi politiniai deepfake'ai buvo garsiniai, o ne vaizdo įrašai — nes garsą pigiau sukurti, jame nėra vizualinių požymių, kurie išduoda suklastotą vaizdo įrašą, ir jis nepastebimai plinta balso žinutėmis privačių susirašinėjimo programėlių viduje.
Slovakijos atvejis: klastotė tyloje
Pavyzdinis atvejis yra Slovakijos parlamento rinkimai 2023 m. rugsėjo 30 d. Maždaug 48 valandas prieš balsavimo pradžią socialiniuose tinkluose paplito garso įrašas, kuriame esą Michal Šimečka, liberalios partijos Progressive Slovakia lyderis, ir laikraščio Denník N žurnalistas aptarinėja, kaip suklastoti balsavimą perkant balsalapius iš romų mažumos. Šis pokalbis niekada neįvyko; garsas buvo suklastotas.
Pavojų lėmė ne klastotės kokybė, o laikas. Ji pasirodė Slovakijos 48 valandų priešrinkiminio moratoriumo metu — teisiškai nustatytu tylos laikotarpiu, kai žiniasklaidai ir politikams taikomi kampanijos ribojimai — todėl tie, kurie geriausiai galėjo ją paneigti, buvo suvaržyti ir negalėjo garsiai reaguoti jai plintant. Progressive Slovakia galiausiai pralaimėjo rinkimus nedidele persvara.
Čia svarbus „0 bullshit“ standartas. Gali kilti pagunda tai pavadinti „deepfake'u, kuris nulėmė rinkimus“. Kruopšti akademinė Slovakijos atvejo analizė parodė, kad priešingas tikrumo lygis būtų nepagrįstas: tikrojo klastotės poveikio rezultatui neįmanoma atskirti nuo visų kitų veiksnių, kurie judino balsus. Sąžininga pamoka yra apie metodą — laiku panaudotą klastotę —, o ne apie įrodytą rezultato pasikeitimą.
Dvi grėsmės: klastotė ir melagio dividendai
Deepfake'ai kelia grėsmę rinkimams dviem skirtingais būdais, ir antrąjį lengva pražiūrėti.
- Suklastotas įrašas. Sintetinis garsas arba vaizdas, paskelbtas siekiant apšmeižti kandidatą arba sukurti skandalą — idealiu atveju per vėlai, kad būtų galima atsakyti, kaip Slovakijoje.
- Melagio dividendai. Subtilesnė žala. Kai visi žino, kad įtikinamos klastotės egzistuoja, politikas, užfiksuotas tikrame įraše, gali tiesiog tvirtinti, kad tai deepfake'as. Vien pats technologijos egzistavimas suteikia melagiams paruoštą pasitraukimo kelią — todėl deepfake'ai ardo pasitikėjimą net tada, kai jokia klastotė iš tikrųjų nepanaudojama.
Antrasis pavojus ilgalaikėje perspektyvoje yra, ko gero, didesnis. Vieną klastotę galima paneigti; bendro „matyti reiškia tikėti“ žlugimo — ne, ir jis kenkia tiek sąžiningiems, tiek nesąžiningiems.
Kodėl garsas yra priekinė linija
Verta konkrečiai įvardyti, kodėl pirmauja garsas:
- Kaina. Naudojamam balso klonui reikia tik kelių minučių tikro tikslo kalbėjimo — o viešam asmeniui tokios medžiagos paprastai netrūksta.
- Nėra vizualinių požymių. Suklastotas vaizdo įrašas vis dar išsiduoda rankomis, dantimis, mirksėjimu ir apšvietimu. Garsas neturi analogiškų išdavikiškų ženklų atsitiktiniam klausytojui.
- Žema kokybė paslepia trūkumus. Tyčia telefono kokybės įrašas bet kokius artefaktus paverčia prastu ryšiu, o ne klastote.
- Tamsus plitimas. Balso žinutės keliauja uždarais kanalais — WhatsApp, Telegram, Signal —, kur jų nemato nei faktų tikrintojai, nei platformos, kad galėtų įsikišti.
Kas iš tikrųjų apsaugo rinkimus
Aptikimo priemonės padeda, bet visada atsilieka nuo klastočių, todėl patvariausios gynybos priemonės yra procedūrinės ir žmogiškos:
- Išankstinis paneigimas. Iš anksto įspėti auditoriją, kad paskutinės minutės klastotės tikėtinos, kad pavėluotas įrašas būtų sutiktas įtarumu, o ne tikėjimu.
- Kilmė, o ne turinys. Vertinti įrašą pagal tai, iš kur jis atsirado — kas jį paskelbė pirmas, kada ir su kokiu šaltiniu —, o ne pagal tai, kiek įtikinamai jis skamba.
- Tylos laikotarpio spąstų taisymas. Slovakijos atvejis atskleidė, kaip moratoriumo taisyklės gali apsaugoti klastotę; kelios jurisdikcijos dabar iš naujo svarsto, kaip paneigimas leidžiamas tylos laikotarpiu.
- Greitas, patikimas paneigimas. Patikimas, greitas apsimesto asmens ir nepriklausomų žiniasklaidos priemonių neigimas, pasirengęs veikti tą akimirką, kai pasirodo klastotė.
Nė vienam iš šių dalykų nereikia klastotės atpažinti plika akimi — ir tai palanku, nes kasmet tai darosi vis sunkiau. Praktiniai įgūdžiai, reikalingi įtartinam įrašui patikrinti pačiam, priklauso Verify krypčiai, tačiau mąstysena prasideda čia: kai prieš pat balsavimą pasirodo šokiruojantis įrašas, pirmasis klausimas nėra „ar tai tikra?“, o „iš kur tai atsirado ir kodėl dabar?"