Mi is valójában a deepfake
A deepfake olyan média — hang, kép vagy videó —, amelyet AI szintetizál úgy, hogy egy valós személy úgy tűnjön, mintha olyasmit mondana vagy tenne, amit soha nem tett. A technológia nem új, de a közelmúltban két dolog megváltozott: olcsóbb lett, és elég jóvá vált ahhoz, hogy egy alkalmi néző ne tudja megkülönböztetni. Választási helyzetben ez a kombináció az ember saját hangját és arcát olyasmivé alakítja, amit egy ellenfél kölcsönvehet.
A fenyegetésről alkotott közkeletű kép egy jelöltet ábrázoló hibátlan hamis videó. A valóság eddig szerényebb és ravaszabb: a leghatékonyabb politikai deepfake-ek hanganyagok, nem videók — mert a hang olcsóbb előállítani, nem hordozza a hamis videót leleplező vizuális árulkodó jeleket, és észrevétlenül terjed a privát üzenetküldő alkalmazások hangüzeneteiben.
A Slovakia-eset: hamisítvány a csendben
A hivatkozási eset a Slovakia 2023. szeptember 30-i parlamenti választása. Körülbelül 48 órával az urnanyitás előtt egy hangfelvétel terjedt a közösségi médiában, amely állítólag Michal Šimečka, a liberális Progressive Slovakia párt vezetője és a Denník N újság egyik újságírója közötti beszélgetést rögzítette arról, miként lehetne elcsalni a szavazást a roma kisebbségtől vásárolt szavazólapokkal. A beszélgetés soha nem történt meg; a hanganyag hamisítvány volt.
Ami veszélyessé tette, nem a hamisítvány minősége, hanem az időzítés volt. A felvétel beleesett Slovakia 48 órás választás előtti moratóriumába — egy jogszabályban előírt csendes időszakba, amikor a média és a politikusok kampánytevékenysége korlátozott —, így éppen azok, akik a leginkább képesek lettek volna cáfolni, korlátozva voltak abban, hogy hangosan reagáljanak, miközben a felvétel terjedt. A Progressive Slovakia végül szűken elveszítette a választást.
Itt a „0 bullshit” mérce számít. Csábító azt mondani, hogy ez volt „az a deepfake, amely eldöntötte a választást”. A szlovák eset gondos tudományos elemzése azonban azt mutatta, hogy az ellenkező fajta bizonyosság nem megalapozott: a hamisítvány tényleges hatását az eredményre lehetetlen elkülöníteni mindattól, ami egyébként is mozgatta a szavazatokat. Az őszinte tanulság a módszerről szól — egy időzítéssel fegyverré tett hamisítványról —, nem pedig bizonyított eredményváltozásról.
A két fenyegetés: a hamisítvány és a hazugok osztaléka
A deepfake-ek két különböző módon fenyegetik a választásokat, és a második könnyen elkerüli a figyelmet.
- A hamisított felvétel. Egy szintetikus hang- vagy videóanyag, amelyet egy jelölt befeketítésére vagy egy botrány meghamisítására hoznak nyilvánosságra — lehetőleg túl későn ahhoz, hogy meg lehessen cáfolni, mint Slovakia esetében.
- A hazugok osztaléka. A kifinomultabb kár. Amint mindenki tudja, hogy meggyőző hamisítványok léteznek, egy politikus, akit egy valódi felvételen kapnak rajta, egyszerűen azt állíthatja, hogy deepfake-ről van szó. Már a technológia puszta létezése is kész menekülőutat ad a hazugságnak — így a deepfake-ek akkor is erodálják a bizalmat, amikor valójában nem is vetnek be hamisítványt.
A második hosszú távon vitathatóan nagyobb veszély. Egyetlen hamisítványt le lehet leplezni; az a széles körű összeomlás, hogy „amit látunk, annak hiszünk”, nem, és ez az őszintéket és a tisztességteleneket egyaránt károsítja.
Miért a hang a frontvonal
Érdemes konkrétan megfogalmazni, miért vezet a hang:
- Költség. Egy használható hangklónhoz csak néhány percnyi valódi beszéd szükséges a célponttól — ez bőségesen rendelkezésre áll bármely közszereplő esetében.
- Nincsenek vizuális árulkodó jelek. A hamis videó még mindig elárulja magát a kezekben, a fogakban, a pislogásban és a megvilágításban. A hangnak nincs ehhez hasonló, alkalmi hallgató számára észrevehető leleplező jele.
- Az alacsony felbontás elfedi a hibákat. Egy szándékosan telefonminőségű klip esetében bármely műtermék rossz kapcsolatra, nem pedig hamisítványra emlékeztet.
- Sötét terjedés. A hangüzenetek zárt csatornákon mozognak — WhatsApp, Telegram, Signal —, ahol sem tényellenőrző, sem platform nem lát rájuk, hogy közbeavatkozzon.
Mi védi valójában a választást
Az észlelőeszközök hasznosak, de mindig lemaradnak a hamisítványok mögött, ezért a tartós védelem eljárási és emberi jellegű:
- Prebunking. A közönség előzetes figyelmeztetése arra, hogy az utolsó pillanatban érkező hamisítványok valószínűek, így a későn felbukkanó klip gyanakvást, nem pedig hitelt vált ki.
- Eredet a tartalom helyett. Egy klip megítélése aszerint, honnan származik — ki tette közzé először, mikor, milyen forrással —, nem pedig aszerint, mennyire meggyőzően hangzik.
- A csendes időszak csapdájának kezelése. A Slovakia-eset feltárta, hogy a moratóriumszabályok megvédhetnek egy hamisítványt; több joghatóság most újragondolja, miként engedélyezhető a cáfolat a csendes időszak alatt.
- Gyors, hiteles cáfolat. A megszemélyesített személy és független médiumok hiteles, gyors tagadása, készen arra, hogy abban a pillanatban reagáljon, amikor egy hamisítvány megjelenik.
Ehhez egyik esetben sem szükséges szemmel felismerni a hamisítványt — ami szerencse, mert ez évről évre nehezebb. A gyanús klip saját vizsgálatához szükséges gyakorlati készségek a Verify trackhez tartoznak, de a szemlélet itt kezdődik: amikor egy sokkoló felvétel közvetlenül a szavazás előtt jelenik meg, az első kérdés nem az, hogy „valódi-e?”, hanem az, hogy „honnan származik, és miért éppen most?”