Спрете да се опитвате да го разпознаете на око
Най-често срещаният съвет за deepfakes — гледайте за странно мигане, броете пръстите, наблюдавайте зъбите — тихо се превръща в остарял. Тези признаци улавят нескопосани фалшификати, но технологията се подобрява всеки месец, а фалшификатите, които наистина имат значение на избори, вече са ги изпреварили. Най-ясното доказателство е, че най-ефективният политически deepfake досега беше аудио, а не видео, а при аудиото изобщо няма пръсти, зъби или мигане, които да се проверяват.
Затова започнете, като се откажете от предположението, че можете да спечелите съревнование по взиране с модерен фалшификат. Обикновено не можете, а опитът създава фалшива увереност. Добрата новина е, че рядко се налага, защото най-слабата точка на един фалшификат почти никога не е самият носител — а всичко около него. Това е същият урок като как да проверявате фактологично всяко твърдение: оценявайте източника и контекста, а не само артефакта.
Произходът е по-важен от пикселите
Надеждният въпрос не е „изглежда ли това истинско?“, а „откъде идва това?“. Един deepfake може съвършено да фалшифицира лице и глас; това, което не може да фалшифицира, е достоверен, проследим произход. Реалните събития оставят следи — пълнен запис, пресъбитие, отразяване от медии, които биха заложили репутацията си за него. Един фалшификат обикновено се появява като кратък, изрязан, нискокачествен откъс от акаунт, за който никога не сте чували, без оригинал някъде зад него.
Проверяването на произхода е небляскаво — търсене на най-ранната версия, търсене на първоизточник, установяване кой друг го съобщава — но именно то работи на практика и работи независимо от това колко убедителни са пикселите или вълновата форма.
Капанът на времето
Deepfakes на избори се използват като оръжие по-малко чрез качество, отколкото чрез време. Тактиката е да се пусне фалшификат късно — по възможност в последните дни преди вота, когато няма време да бъде опроверган, а в някои държави периодът на предизборно мълчание по закон заглушава хората, които са най-подходящи да отговорят.
Парламентарните избори в Словакия през 2023 г. са референтният случай. Около 48 часа преди отварянето на секциите фалшифицирано аудио, което уж улавя лидер на партия и журналист в разговор за манипулиране на вота, се разпространи по време на предизборния мораториум, когато опровержението беше ограничено. Партията впоследствие загуби с малка разлика. Честният извод не е, че фалшификатът е решил изборите — това е недоказуемо — а че неговото време беше целият замисъл. Затова следва практическо правило: бъдете най-подозрителни към клип точно когато той изглежда най-обвинителен и пристига в най-решаващия момент.
Визуалните и аудио признаци (и защо изчезват)
Използвани внимателно, старите признаци все още имат известна стойност срещу слаби фалшификати:
| Medium | Possible tell | Caveat |
|---|---|---|
| Video | Неестествено мигане, странни ръце/зъби, размазване по линията на косата, разминаване в синхрона на устните | Изчезват при добри фалшификати |
| Video | Осветление или сенки, които не съответстват на сцената | Вече е лесно да се направи правилно |
| Audio | Плоска емоция, странно дишане, роботизиран ритъм | Често се прикрива от ниско качество |
| Any | Твърде кратко, твърде изрязано, без контекст | Най-устойчивият сигнал |
Две предупреждения. Първо, наличието на признак подсказва фалшификат, но липсата на признаци не доказва нищо — най-добрите фалшификати нямат такива. Второ, не се поддавайте на огледалния капан: съществуването на deepfakes позволява на хората да отхвърлят истински записи като фалшиви. Този рефлекс — дивидентът на лъжеца — означава, че „вероятно е deepfake“ също не е безплатен изход, нито за вас, нито за човека, заснет на лента.
Инструментите помагат, но не решават
Съществуват автоматизирани детектори, а организации като WITNESS са настоявали за по-широк достъп до тях. Струва си да се използват — но като подсказка, а не като окончателно заключение. Откриването последователно изостава от генерирането, а инструментите дават фалшиви положителни и фалшиви отрицателни резултати, така че изходът на един инструмент трябва да стои редом с произхода и контекста, а никога да не ги заменя.
Устойчивите защити са човешките, разгледани в deepfakes in elections: prebunking, така че аудиторията да очаква фалшификати в последния момент, бързо и надеждно опровержение и навикът да се пита „откъде идва това и защо точно сега?“ преди „изглежда ли това истинско?“. Подредете ли правилно този ред, вече сте една крачка пред фалшификатите — без да се налага да надвиквате нито един пиксел.