딥페이크가 실제로 무엇인지
딥페이크는 AI가 합성한 미디어 — 오디오, 이미지 또는 비디오 — 로, 실제 인물이 실제로는 하지 않은 말이나 행동을 한 것처럼 보이게 한다. 이 기술은 새로운 것이 아니지만, 최근 두 가지가 달라졌다. 비용이 저렴해졌고, 일반 시청자가 구별할 수 없을 정도로 충분히 정교해졌다. 선거에서는 이 조합이 한 사람의 목소리와 얼굴을 상대가 빌려 쓸 수 있는 대상으로 바꾼다.
위협에 대한 대중적 이미지는 후보자의 완벽한 가짜 영상이다. 그러나 지금까지의 현실은 더 제한적이면서도 더 교묘하다. 가장 효과적인 정치적 딥페이크는 비디오가 아니라 오디오였다. 오디오는 생성 비용이 더 낮고, 가짜 비디오를 드러내는 시각적 단서가 없으며, 사적 메시징 앱의 음성 메모를 통해 보이지 않게 퍼지기 때문이다.
Slovakia 사건: 침묵 속의 가짜
대표적 사례는 2023년 9월 30일의 Slovakia 총선이다. 투표 개시 약 48시간 전, 사회관계망서비스에 Michal Šimečka, 자유주의 정당 Progressive Slovakia의 대표, 그리고 Denník N 신문의 한 기자가 Roma 소수자에게서 투표용지를 매입해 표를 조작하는 방안을 논의하는 것으로 보이는 오디오 클립이 확산됐다. 그 대화는 실제로 일어나지 않았으며, 해당 오디오는 조작물이었다.
이것이 위험했던 이유는 가짜의 품질이 아니라 시점이었다. 이 오디오는 Slovakia의 선거 전 48시간 모라토리엄, 즉 언론과 정치인이 선거운동을 제한받는 법정 침묵 기간 안에 유포됐다. 그 결과 이를 반박하기에 가장 적합한 이들조차 그것이 퍼지는 동안 공개적으로 대응하기 어려웠다. Progressive Slovakia는 결국 선거에서 근소한 차이로 패배했다.
여기서 ‘0 bullshit’ 기준이 중요하다. 이를 “선거를 결정한 딥페이크”라고 부르고 싶어지기 쉽다. 그러나 Slovakia 사례에 대한 신중한 학술 분석은, 그와 같은 확정적 판단은 정당화되지 않는다는 반대의 결론을 제시했다. 실제 결과에 대한 가짜의 영향은 표를 움직인 다른 모든 요인과 분리해 식별할 수 없다. 정직한 교훈은 결과의 입증된 변화가 아니라, 방법 — 시점이 무기화된 가짜 — 에 관한 것이다.
두 가지 위협: 가짜와 거짓말쟁이의 배당금
딥페이크는 두 가지 서로 다른 방식으로 선거를 위협하며, 두 번째는 쉽게 놓치기 쉽다.
- 조작된 클립. 후보자를 흠집 내거나 스캔들을 조작하기 위해 공개되는 합성 오디오 또는 비디오 — 이상적으로는 Slovakia의 경우처럼 반박하기에는 너무 늦게 공개되는 것.
- 거짓말쟁이의 배당금. 더 미묘한 피해. 설득력 있는 가짜가 존재한다는 사실이 널리 알려지면, 실제 녹음에 잡힌 정치인은 그것이 딥페이크라고 주장할 수 있다. 기술의 존재 자체가 거짓말쟁이에게 손쉬운 탈출구를 제공한다. 따라서 실제 가짜가 사용되지 않더라도 딥페이크는 신뢰를 잠식한다.
두 번째가 장기적으로는 더 큰 위험일 수 있다. 단일 가짜는 반박할 수 있지만, “보는 것이 믿는 것”이라는 일반적 붕괴는 반박할 수 없으며, 정직한 사람과 부정한 사람 모두에게 피해를 준다.
왜 오디오가 최전선인가
오디오가 앞서가는 이유를 구체적으로 살펴볼 필요가 있다.
- 비용. 사용할 수 있는 음성 복제에는 대상의 실제 발화 몇 분 분량만 있으면 된다. 공직자라면 누구에게나 충분히 확보 가능한 양이다.
- 시각적 단서가 없음. 가짜 비디오는 여전히 손, 치아, 눈 깜박임, 조명에서 정체를 드러낸다. 오디오에는 일반 청취자가 알아챌 만한 대응되는 단서가 없다.
- 낮은 음질이 결함을 가림. 의도적으로 전화 통화 수준의 품질로 만든 클립은 어떤 인공 흔적도 가짜가 아니라 나쁜 연결 상태처럼 들리게 한다.
- 은밀한 확산. 음성 메모는 WhatsApp, Telegram, Signal 같은 폐쇄된 채널을 통해 이동하며, 사실 확인자나 플랫폼이 개입할 수 있도록 이를 볼 수 없다.
실제로 선거를 보호하는 것
탐지 도구는 도움이 되지만 항상 가짜보다 뒤처진다. 따라서 지속 가능한 방어는 절차적이고 인간적인 것이다.
- 프리벙킹. 막판 가짜가 나올 가능성을 미리 알림으로써, 늦게 등장한 클립이 믿음이 아니라 의심으로 받아들여지게 한다.
- 내용보다 출처. 클립이 얼마나 설득력 있게 들리는지가 아니라, 어디에서 왔는지 — 누가 처음 게시했는지, 언제였는지, 어떤 출처와 함께였는지 — 로 판단한다.
- 침묵 기간 함정의 수정. Slovakia 사례는 모라토리엄 규정이 어떻게 가짜를 보호할 수 있는지 드러냈다. 여러 관할권은 현재 조용한 기간 동안 반박이 어떻게 허용될 수 있는지 재검토하고 있다.
- 신속하고 신뢰할 수 있는 반박. 사칭된 당사자와 독립 언론이 제공하는 신뢰할 만하고 빠른 부인, 가짜가 나타나는 즉시 대응할 준비가 되어 있는 것.
이 모든 것은 눈으로 가짜를 식별할 필요가 없다. 다행히도 그것은 해마다 더 어려워지고 있기 때문이다. 의심스러운 클립을 직접 검토하는 실무적 기술은 Verify 트랙에 속하지만, 사고방식은 여기서 시작된다. 투표 직전에 충격적인 녹음이 나타날 때 첫 질문은 “이게 진짜인가?”가 아니라 “이것은 어디서 왔으며, 왜 지금인가?”이다.