دیپ‌فیک‌ها در انتخابات

دیپ‌فیک در واقع چیست

یک دیپ‌فیک رسانه‌ای است — صوت، تصویر یا ویدئو — که با هوش مصنوعی به‌گونه‌ای سنتز می‌شود که یک فرد واقعی به‌نظر برسد چیزی را می‌گوید یا انجام می‌دهد که هرگز نگفته یا انجام نداده است. این فناوری جدید نیست، اما اخیراً دو چیز تغییر کرد: ارزان شد و به اندازه‌ای خوب شد که یک بیننده عادی نتواند آن را تشخیص دهد. در یک انتخابات، این ترکیب صدای خودِ یک فرد و چهره او را به چیزی تبدیل می‌کند که یک رقیب می‌تواند از آن بهره بگیرد.

تصویر رایج از این تهدید، یک ویدئوی جعلیِ بی‌نقص از یک نامزد است. اما واقعیت تا اینجا متواضعانه‌تر و هوشمندانه‌تر بوده است: مؤثرترین دیپ‌فیک‌های سیاسی صوتی بوده‌اند، نه ویدئویی — زیرا تولید صوت ارزان‌تر است، هیچ‌یک از نشانه‌های بصریِ افشاگرِ ویدئوی جعلی را ندارد، و به‌طور نامرئی از طریق یادداشت‌های صوتی در برنامه‌های پیام‌رسان خصوصی پخش می‌شود.

پرونده Slovakia: جعلی در سکوت

نمونه مرجع، انتخابات پارلمانی Slovakia در 30 September 2023 است. حدود 48 ساعت پیش از گشایش صندوق‌ها، یک کلیپ صوتی در شبکه‌های اجتماعی منتشر شد که ظاهراً Michal Šimečka، رهبر حزب لیبرال Progressive Slovakia، و یک روزنامه‌نگار از روزنامه Denník N را در حال گفت‌وگو درباره دستکاری رأی‌گیری از طریق خرید برگه‌های رأی از اقلیت Roma نشان می‌داد. این گفت‌وگو هرگز رخ نداده بود؛ آن صوت یک جعل بود.

آنچه آن را خطرناک کرد، کیفیت جعل نبود بلکه زمان‌بندی بود. این محتوا در بازه 48 ساعته پیش از انتخابات Slovakia ــ دوره سکوتِ الزام‌آور قانونی که در آن رسانه‌ها و سیاستمداران از تبلیغات انتخاباتی محدود می‌شوند ــ منتشر شد؛ بنابراین همان کسانی که بهترین موقعیت را برای افشای آن داشتند، هنگام گردش آن از پاسخ‌گویی پرصداتر محدود بودند. Progressive Slovakia در نهایت انتخابات را با اختلافی اندک باخت.

در اینجا استاندارد «0 bullshit» اهمیت دارد. وسوسه‌انگیز است که این را «دیپ‌فیکی که یک انتخابات را تعیین کرد» بنامیم. اما تحلیل دانشگاهی دقیقِ پرونده Slovakia نشان داد که قطعیتِ از این دست موجه نیست: اثر واقعی این جعل بر نتیجه، از همه عوامل دیگری که آرا را جابه‌جا کردند، قابل تفکیک نیست. درس صادقانه درباره روش است — جعلی که با زمان‌بندی به سلاح تبدیل شد — نه درباره تغییرِ اثبات‌شده در نتیجه.

دو تهدید: جعل و سودِ دروغ‌گو

دیپ‌فیک‌ها از دو مسیر متفاوت انتخابات را تهدید می‌کنند، و دومی به‌سادگی از نظر دور می‌ماند.

1. کلیپِ ساختگی. یک صوت یا ویدئوی مصنوعی که برای بدنام‌کردن یک نامزد یا ساختن یک رسوایی منتشر می‌شود — ترجیحاً آن‌قدر دیر که نتوان به آن پاسخ داد، همان‌گونه که در Slovakia رخ داد.
2. سودِ دروغ‌گو. آسیبِ ظریف‌تر. وقتی همه بدانند جعل‌های قانع‌کننده وجود دارند، یک سیاستمدار که در یک ضبط واقعی گرفتار شده است می‌تواند صرفاً ادعا کند که آن یک دیپ‌فیک است. صرفِ وجود این فناوری به دروغ‌گوها یک راه خروج آماده می‌دهد — بنابراین دیپ‌فیک‌ها حتی وقتی هیچ جعلی واقعاً به‌کار نرفته باشد نیز اعتماد را فرسوده می‌کنند.

دومی را می‌توان تهدید بلندمدت بزرگ‌تری دانست. یک جعلِ واحد را می‌توان افشا کرد؛ اما فروپاشی عمومیِ «دیدن، باور کردن است» را نمی‌توان، و این هم به صادقان و هم به ناصادقان آسیب می‌زند.

چرا صوت مرزِ پیشرو است

ارزش دارد به‌طور مشخص توضیح داده شود که چرا صوت پیشتاز است:

• هزینه. یک شبیه‌سازیِ قابل‌استفاده از صدا فقط به چند دقیقه گفتار واقعیِ هدف نیاز دارد — چیزی فراوان برای هر چهره عمومی.
• نبودِ نشانه‌های بصری. ویدئوی جعلی هنوز خود را در دست‌ها، دندان‌ها، پلک‌زدن و نورپردازی لو می‌دهد. صوت برای یک شنونده عادی معادلِ آشکاری ندارد.
• کیفیت پایین، نقص‌ها را پنهان می‌کند. یک کلیپِ عمداً با کیفیت تلفن همراه، هر مصنوعی‌بودنی را شبیه اتصال بد جلوه می‌دهد، نه جعل.
• انتشارِ پنهان. یادداشت‌های صوتی از طریق کانال‌های بسته — WhatsApp، Telegram، Signal — جابه‌جا می‌شوند، جایی که هیچ fact-checker یا پلتفرمی نمی‌تواند آنها را ببیند و مداخله کند.

چه چیزی واقعاً از یک انتخابات محافظت می‌کند

ابزارهای تشخیص مفیدند، اما همیشه از جعل‌ها عقب می‌مانند؛ بنابراین دفاع‌های پایدار، رویه‌ای و انسانی‌اند:

• Prebunking. هشدار دادن به مخاطبان از پیش که جعل‌های دقیقه‌نودی محتمل‌اند، تا یک کلیپ دیرهنگام با تردید مواجه شود نه با باور.
• منشأ، نه محتوا. ارزیابی یک کلیپ بر اساس این‌که از کجا آمده است — چه کسی نخست آن را منتشر کرده، چه زمانی، و با چه منبعی — نه بر اساس این‌که چقدر قانع‌کننده به‌نظر می‌رسد.
• اصلاح دامِ دوره سکوت. پرونده Slovakia نشان داد که قواعد مهلت سکوت چگونه می‌توانند از یک جعل محافظت کنند؛ چندین حوزه قضایی اکنون در حال بازنگری‌اند که افشاگریِ نادرستی در دوره سکوت چگونه مجاز باشد.
• پاسخ سریع و مورد اعتماد. یک انکارِ معتبر و سریع از سوی فردِ جعل‌شده و رسانه‌های مستقل، آماده برای اقدام در همان لحظه‌ای که یک جعل ظاهر می‌شود.

هیچ‌یک از اینها مستلزم تشخیصِ چشمیِ جعل نیست — و این خوش‌شانسی است، زیرا این کار هر سال دشوارتر می‌شود. مهارت‌های عملی برای بررسیِ یک کلیپ مشکوک به‌صورت شخصی به مسیر Verify تعلق دارد، اما طرز فکر از همین‌جا آغاز می‌شود: وقتی یک ضبطِ تکان‌دهنده درست پیش از رأی‌گیری ظاهر می‌شود، نخستین پرسش این نیست که «آیا این واقعی است؟» بلکه این است که «این از کجا آمده، و چرا اکنون؟»