Ne próbálja többé szemmel felismerni
A deepfake-ekkel kapcsolatos leggyakoribb tanács — figyelje a furcsa pislogást, számolja meg az ujjakat, nézze a fogakat — csendben elavulóban van. Ezek a jelek a gyenge hamisítványokat kiszűrik, de a technológia hónapról hónapra fejlődik, és a választások szempontjából valóban számító hamisítványok már régen lehagyták őket. A legvilágosabb bizonyíték erre, hogy az eddigi leghatékonyabb politikai deepfake hang volt, nem videó, a hangban pedig nincs mit vizsgálni: sem ujjakat, sem fogakat, sem pislogást.
Ezért induljon ki abból, hogy egy modern hamisítvánnyal szemben nem nyerhet egy bámulóversenyt. Általában nem is tud, és ha megpróbálja, az hamis magabiztosságot tanít. A jó hír az, hogy erre ritkán van szükség, mert egy hamisítvány leggyengébb pontja szinte soha nem maga a médiafájl — hanem minden, ami körülötte van. Ugyanez a tanulság, mint bármely állítás tényellenőrzése esetében: a forrást és a kontextust kell megítélni, nem csupán az artefaktumot.
Az eredet felülmúlja a pixeleket
A megbízható kérdés nem az, hogy „valódinak tűnik-e?”, hanem az, hogy „honnan származik?” Egy deepfake tökéletesen hamisíthat egy arcot és egy hangot; azt azonban nem tudja hamisítani, hogy hiteles, visszakövethető eredete legyen. A valós események nyomokat hagynak — teljes felvételt, sajtóeseményt, olyan médiumok tudósítását, amelyek a saját hírnevüket tennék kockára érte. Egy hamisítvány rendszerint rövid, kivágott, gyenge minőségű részletként jelenik meg egy olyan fiókból, amelyről soha nem hallott, és nincs mögötte sehol az eredeti.
Az eredet ellenőrzése nem látványos — a legkorábbi verzió keresése, elsődleges forrás felkutatása, annak megállapítása, ki más számol be róla —, de ez az, ami ténylegesen működik, és független attól, mennyire meggyőzőek a pixelek vagy a hullámforma.
Az időzítés csapdája
A választásokban a deepfake-eket kevésbé a minőségük, inkább az időzítésük teszi fegyverré. A forgatókönyv az, hogy a hamisítványt későn hozzák nyilvánosságra — ideális esetben a szavazás előtti utolsó napokban, amikor nincs idő cáfolni, és egyes országokban a kampánycsend jogilag elnémítja azokat, akik a legalkalmasabbak lennének a válaszra.
Szlovákia 2023-as parlamenti választása az irányadó eset. Körülbelül 48 órával az urnanyitás előtt egy hamisított hangfelvétel, amely állítólag egy pártvezetőt és egy újságírót ért tetten szavazatmanipulációról beszélve, a választás előtti moratórium idején terjedt, amikor a cáfolat korlátozott volt. A párt végül szűken vereséget szenvedett. Az őszinte tanulság nem az, hogy a hamisítvány döntötte el a választást — ez bizonyíthatatlan —, hanem az, hogy az időzítése volt a teljes terv. Gyakorlati szabály következik ebből: akkor legyen a leggyanakvóbb egy klippel szemben, amikor az a leginkább terhelőnek tűnik, és a legdöntőbb pillanatban érkezik.
A vizuális és hangbeli jelek (és miért halványulnak el)
Óvatosan használva a régi jeleknek még mindig van némi értékük a gyenge hamisítványokkal szemben:
| Médium | Lehetséges jel | Fenntartás |
|---|---|---|
| Videó | Természetellenes pislogás, furcsa kezek/fogak, elmosódás a hajvonalnál, ajakszinkron-eltolódás | Jó hamisítványoknál eltűnőben |
| Videó | A jelenethez nem illő megvilágítás vagy árnyékok | Ma már könnyű helyesen megoldani |
| Hang | Sík érzelmi tónus, furcsa légzés, gépies ritmus | Gyakran elfedi az alacsony minőség |
| Bármelyik | Túl rövid, túl erősen kivágott, nincs kontextus | A legmaradandóbb jel |
Két figyelmeztetés. Először is, egy jel jelenléte hamisítványra utalhat, de a jelek hiánya semmit sem bizonyít — a legjobb hamisítványokban nincsenek ilyenek. Másodszor, ne essen bele a tükörkép-csapdába: a deepfake-ek létezése lehetővé teszi, hogy az emberek a valódi felvételeket is hamisnak minősítsék. Ez a reflex — a hazug osztalék — azt jelenti, hogy az „ez valószínűleg deepfake” sem jelent automatikus felmentést, sem Önnek, sem annak, akit a felvétel leleplez.
Az eszközök segítenek, de nem döntenek
Léteznek automatizált detektorok, és olyan szervezetek, mint a WITNESS, szélesebb körű hozzáférést szorgalmaztak hozzájuk. Érdemes használni őket — de csak jelzésként, nem ítéletként. Az észlelés következetesen lemarad a generálás mögött, és az eszközök hamis pozitív és hamis negatív eredményeket is adnak, ezért egyetlen eszköz kimenetét az eredet és a kontextus mellé kell tenni, soha nem helyettesítheti azokat.
A tartós védelem az emberi oldalon van, ahogyan azt a deepfake-ek a választásokban című anyag tárgyalja: előcáfolás, hogy a közönség számítson az utolsó pillanatban érkező hamisítványokra, gyors és megbízható cáfolat, valamint annak szokása, hogy előbb azt kérdezzük: „honnan származik ez, és miért éppen most?”, mint azt, hogy „valódinak tűnik-e?”. Ha ezt a sorrendet jól állítja fel, máris a hamisítványok előtt jár — anélkül, hogy egyetlen pixellel is bámulóversenybe kellene bocsátkoznia.