Перестаньте пытаться распознать его на глаз
Самый распространённый совет о deepfake — искать странное моргание, считать пальцы, следить за зубами — тихо устаревает. Эти признаки помогают ловить неумелые подделки, но технология совершенствуется каждый месяц, а подделки, которые действительно имеют значение на выборах, уже их опередили. Самое наглядное доказательство в том, что самый эффективный политический deepfake на сегодняшний день был аудио, а не видео, а в аудио нет ни пальцев, ни зубов, ни моргания, которые можно было бы проверять.
Поэтому начните с отказа от предположения, что вы можете выиграть в состязании взглядов у современной подделки. Обычно не можете, а попытки лишь создают ложную уверенность. Хорошая новость в том, что вам редко это нужно, потому что самое слабое место подделки почти никогда не в самом медиафайле — а во всём, что вокруг него. Это тот же урок, что и в проверке любого утверждения: оценивайте источник и контекст, а не только объект.
Происхождение важнее пикселей
Надёжный вопрос — не «выглядит ли это правдоподобно?», а «откуда это взялось?». Deepfake может идеально подделать лицо и голос; но он не может подделать убедимое, прослеживаемое происхождение. Реальные события оставляют следы — полную запись, пресс-мероприятие, освещение в СМИ, которые готовы поставить на это свою репутацию. Подделка обычно появляется как короткий, обрезанный, низкокачественный фрагмент из аккаунта, о котором вы никогда не слышали, без какого-либо оригинала где-либо за ним.
Проверка происхождения неэффектна — поиск самой ранней версии, поиск первоисточника, выяснение, кто ещё об этом сообщает, — но именно это действительно работает, и работает независимо от того, насколько убедительны пиксели или форма волны.
Ловушка времени
Deepfake на выборах используется как оружие не столько качеством, сколько временем. Тактика состоит в том, чтобы выпустить подделку поздно — в идеале в последние дни перед голосованием, когда уже нет времени её опровергнуть, а в некоторых странах период предвыборной тишины по закону лишает возможности отвечать тех, кто лучше всего способен это сделать.
Парламентские выборы в Словакии в 2023 году — показательный случай. Примерно за 48 часов до открытия участков распространялось сфабрикованное аудио, якобы фиксировавшее, как лидер партии и журналист обсуждают фальсификацию голосования; это происходило в период предвыборного моратория, когда опровержение было ограничено. Партия в итоге с небольшим отрывом проиграла. Честный вывод не в том, что подделка решила исход выборов — это недоказуемо, — а в том, что её время было всей конструкцией. Отсюда практическое правило: относитесь с наибольшим подозрением к ролику именно тогда, когда он кажется наиболее обвинительным и появляется в самый решающий момент.
Визуальные и аудиопризнаки (и почему они исчезают)
При осторожном использовании старые признаки всё ещё имеют некоторую ценность против слабых подделок:
| Medium | Possible tell | Caveat |
|---|---|---|
| Video | Неестественное моргание, странные руки/зубы, размытость у линии роста волос, рассинхрон губ | Исчезает в качественных подделках |
| Video | Освещение или тени не совпадают с сценой | Сейчас это легко сделать правильно |
| Audio | Плоская эмоциональность, странное дыхание, роботизированная интонация | Часто маскируется низким качеством |
| Any | Слишком короткий, слишком обрезанный, без контекста | Самый устойчивый сигнал |
Два предупреждения. Во-первых, наличие признака указывает на подделку, но отсутствие признаков ничего не доказывает — у лучших подделок их нет. Во-вторых, не попадайтесь в зеркальную ловушку: само существование deepfake позволяет людям отвергать подлинные записи как подделку. Этот рефлекс — dividend лжеца — означает, что «это, вероятно, deepfake» тоже не является автоматическим оправданием ни для вас, ни для человека, попавшего на запись.
Инструменты помогают, но не решают
Автоматические детекторы существуют, и организации вроде WITNESS добивались более широкого доступа к ним. Ими стоит пользоваться — но как подсказкой, а не как вердиктом. Обнаружение стабильно отстаёт от генерации, а инструменты дают ложноположительные и ложноотрицательные результаты, поэтому вывод одного инструмента должен рассматриваться вместе с происхождением и контекстом, а не заменять их.
Устойчивые меры защиты — человеческие, о которых говорится в deepfakes на выборах: prebunking, чтобы аудитория ожидала подделки в последний момент, быстрое доверенное опровержение и привычка спрашивать «откуда это взялось и почему именно сейчас?» прежде, чем «выглядит ли это правдоподобно?». Если вы соблюдаете этот порядок, вы уже впереди подделок — без необходимости переигрывать взглядом каждый пиксель.