Skip to content
VoteRights

خودتان راستی‌آزمایی کنید

چگونه یک deepfake را تشخیص دهیم

مقدماتی8 دقیقه مطالعهترجمه ماشینی

این صفحه به‌صورت ماشینی ترجمه شده و در انتظار بازبینی انسانی است. نسخه انگلیسی، متن مرجع است. متن مرجع انگلیسی را بخوانید

You usually cannot spot a good deepfake by staring at it — detection by eye is losing to the technology. The reliable method is to check a clip's provenance before its content: where it came from, when it appeared, and whether any original source exists. Suspicion of timing beats scrutiny of pixels.

در این مقاله

دست از تلاش برای تشخیص آن با چشم بردارید

رایج‌ترین توصیه درباره deepfakeها — به دنبال پلک‌زدن غیرعادی باشید، انگشت‌ها را بشمارید، دندان‌ها را زیر نظر بگیرید — به‌تدریج منسوخ می‌شود. این نشانه‌ها جعل‌های ناشیانه را آشکار می‌کنند، اما فناوری هر ماه پیشرفت می‌کند و جعل‌هایی که واقعاً در انتخابات اهمیت دارند، از آن‌ها پیشی گرفته‌اند. روشن‌ترین دلیل این است که مؤثرترین deepfake سیاسی تا اینجا صوتی بوده، نه ویدئویی، و صوت اصلاً انگشت، دندان یا پلک‌زدنی برای بررسی ندارد.

پس ابتدا این فرض را کنار بگذارید که می‌توانید با یک جعل مدرن مسابقه خیره‌شدن را ببرید. معمولاً نمی‌توانید، و تلاش برای این کار اعتمادبه‌نفس کاذب ایجاد می‌کند. خبر خوب این است که به‌ندرت لازم است چنین کاری کنید، زیرا ضعیف‌ترین نقطه یک جعل تقریباً هرگز خودِ رسانه نیست — بلکه همه چیز اطراف رسانه است. این همان درسِ چگونه هر ادعایی را راستی‌آزمایی کنیم است: منبع و زمینه را بسنجید، نه فقط خودِ اثر را.

منشأ از پیکسل‌ها مهم‌تر است

پرسش قابل اتکا این نیست که «آیا این واقعی به نظر می‌رسد؟» بلکه این است که «این از کجا آمده است؟» یک deepfake می‌تواند چهره و صدا را به‌طور کامل جعل کند؛ اما چیزی که نمی‌تواند جعل کند، منشأیی معتبر و قابل ردیابی است. رویدادهای واقعی ردپا بر جا می‌گذارند — یک ضبط کامل، یک رویداد خبری، پوشش رسانه‌هایی که اعتبار خود را بر آن می‌گذارند. یک جعل معمولاً به‌صورت قطعه‌ای کوتاه، بریده و کم‌کیفیت از حسابی ظاهر می‌شود که هرگز نامش را نشنیده‌اید، و هیچ نسخه اصلی در پشت آن نیست.

بررسی منشأ جذاب نیست — جست‌وجوی نخستین نسخه، یافتن منبع اولیه، دیدن این‌که چه کسانی دیگر آن را گزارش کرده‌اند — اما همین کار واقعاً مؤثر است، و فارغ از این‌که پیکسل‌ها یا شکل موج چقدر قانع‌کننده باشند، کار می‌کند.

دامِ زمان‌بندی

deepfakeها در انتخابات بیش از آن‌که با کیفیت به سلاح تبدیل شوند، با زمان‌بندی به سلاح تبدیل می‌شوند. الگو این است که جعل را دیر منتشر کنند — ترجیحاً در روزهای پایانی پیش از رأی‌گیری، زمانی که فرصتی برای افشای آن نیست و در برخی کشورها، دوره سکوت انتخاباتی به‌طور قانونی دستِ کسانی را که بهترین موقعیت را برای پاسخ دارند می‌بندد.

انتخابات پارلمانی 2023 اسلواکی نمونه مرجع است. حدود 48 ساعت پیش از گشایش حوزه‌های رأی‌گیری، audio fabricated که ظاهراً گفت‌وگوی یک رهبر حزب و یک روزنامه‌نگار درباره دستکاری آرا را ثبت کرده بود، در جریان مهلت پیش از انتخابات منتشر شد، زمانی که پاسخ‌گویی محدود بود. آن حزب در نهایت با اختلافی اندک شکست خورد. درس صادقانه این نیست که آن جعل انتخابات را تعیین کرد — این امر قابل اثبات نیست — بلکه این است که زمان‌بندی آن، تمام طراحی بود. بنابراین یک قاعده عملی به‌دست می‌آید: دقیقاً زمانی که یک کلیپ بیشترین بار اتهامی را دارد و در تعیین‌کننده‌ترین لحظه منتشر می‌شود، باید بیش از همه به آن مشکوک بود.

نشانه‌های بصری و صوتی (و این‌که چرا در حال محو شدن‌اند)

اگر با دقت به کار روند، نشانه‌های قدیمی هنوز در برابر جعل‌های ضعیف تا حدی ارزش دارند:

MediumPossible tellCaveat
Videoپلک‌زدن غیرطبیعی، دست‌ها/دندان‌های عجیب، محوشدگی در خط رویش مو، ناهماهنگی لب‌خوانیدر جعل‌های خوب در حال ناپدید شدن
Videoنورپردازی یا سایه‌هایی که با صحنه هم‌خوان نیستاکنون به‌راحتی قابل درست‌کردن است
Audioاحساسات تخت، تنفس عجیب، آهنگ گفتار ربات‌گونهاغلب با کیفیت پایین پنهان می‌شود
Anyبیش از حد کوتاه، بیش از حد بریده، بدون زمینهپایدارترین نشانه

دو هشدار. نخست، وجود یک نشانه به جعل بودن اشاره می‌کند، اما نبودِ نشانه‌ها هیچ چیز را ثابت نمی‌کند — بهترین جعل‌ها هیچ نشانه‌ای ندارند. دوم، در دامِ آینه‌ای نیفتید: وجود deepfakeها به مردم امکان می‌دهد ضبط‌های واقعی را نیز جعلی قلمداد کنند. این واکنش — liar's dividend — یعنی «احتمالاً یک deepfake است» نیز نه برای شما و نه برای فردی که در نوار ضبط شده، معافیت رایگان ایجاد نمی‌کند.

ابزارها کمک می‌کنند، اما تصمیم نمی‌گیرند

آشکارسازهای خودکار وجود دارند، و سازمان‌هایی مانند WITNESS برای دسترسی گسترده‌تر به آن‌ها تلاش کرده‌اند. استفاده از آن‌ها ارزشمند است — اما به‌عنوان یک نشانه، نه یک حکم. تشخیص همواره از تولید عقب می‌ماند، و این ابزارها مثبت کاذب و منفی کاذب تولید می‌کنند؛ بنابراین خروجی یک ابزار باید در کنار منشأ و زمینه قرار گیرد، نه این‌که جایگزین آن‌ها شود.

دفاع‌های پایدار همان دفاع‌های انسانی‌اند که در deepfakes in elections آمده است: prebunking تا مخاطبان انتظار جعل‌های دقیقه آخری را داشته باشند، پاسخ سریع و مورد اعتماد، و عادتِ پرسیدنِ «این از کجا آمده و چرا اکنون؟» پیش از «آیا این واقعی به نظر می‌رسد؟». این ترتیب را درست رعایت کنید، و شما از قبل از جعل‌ها جلوتر هستید — بدون آن‌که لازم باشد با حتی یک پیکسل مسابقه خیره‌شدن بدهید.

Checking a suspicious clip, step by step

  1. 1

    Pause before you react

    A clip built to go viral is built to bypass your judgement with a jolt of shock or anger. The moment you notice that jolt, stop. Do not share it while you are still feeling it — that reaction is the delivery mechanism, not evidence.

  2. 2

    Check where it came from

    Find the earliest version you can. Who posted it first, from what account, and when? A dramatic clip that surfaces from an anonymous or brand-new account, with no traceable origin, should be treated as unverified until proven otherwise.

  3. 3

    Look for a primary source

    If a public figure really said or did this, there should be an original — a full video, a press event, a reputable report. Search for it. A clip that exists only as a short, cropped, low-quality fragment with no original behind it is a warning sign.

  4. 4

    Cross-check trusted outlets

    See whether independent, credible outlets are reporting the same thing. A genuine scandal caught on tape gets covered; a fake often lives only in partisan or fringe channels. Silence from serious sources is meaningful.

  5. 5

    Weigh the timing and the beneficiary

    Ask when it appeared and who gains. A bombshell dropped in the final days before a vote — especially inside a campaign-silence period — is a classic pattern designed to spread faster than it can be debunked.

  6. 6

    Use detection tools as a hint, not a verdict

    Deepfake-detection tools can flag suspicious media, but they lag the technology and produce false results in both directions. Treat a tool's output as one more clue alongside provenance and context — never as the final word.

پرسش‌های متداول

Can you tell a deepfake just by looking at it?

Increasingly, no. Good deepfakes no longer have obvious visual glitches, and deepfake audio — the most effective kind in elections so far — has no visual tells at all. Relying on your eyes is a losing strategy; checking where a clip came from is far more reliable than scrutinising how it looks.

What are the visual signs of a fake video?

Historically: unnatural blinking, odd hands or teeth, mismatched lighting, blurring where the face meets the hair, and lips slightly out of sync with audio. These still catch weak fakes, but the tells are disappearing fast — and their absence does not prove a clip is real.

Why is deepfake audio so hard to detect?

Audio has no faces, hands, or lighting to give it away, generating a convincing voice needs only minutes of real speech, and a deliberately phone-quality clip makes any flaws sound like a bad connection. It also spreads through private voice notes where no fact-checker can see it.

What should make me most suspicious that a clip is fake?

Timing and origin. A shocking clip that appears right before an election, in low quality, from an unclear source, and that just happens to damage one side, fits the deepfake playbook exactly — as the Slovakia 2023 case showed. Be most careful precisely when a clip feels most damning.

منابع

  1. 1.Prepare, Don't Panic: Synthetic Media and Deepfakes — WITNESS Media Lab
  2. 2.Slovakia: Deepfake audio of Denník N journalist offers worrying example of AI abuse — International Press Institute (IPI) (2023)
  3. 3.Beyond the deepfake hype: AI, democracy, and 'the Slovak case' — Harvard Kennedy School Misinformation Review (2024)
نوشته شده توسط VoteRights Editorialبازبینی شده توسط VoteRights standards deskآخرین بازبینی

ادامه یادگیری

دیپ‌فیک‌ها در انتخاباتچگونه صوت و ویدئوی تولیدشده با هوش مصنوعی برای دستکاری آرا به کار می‌روند — جعلِ دقیقه‌نودی، «سودِ دروغ‌گو»، و آنچه پرونده Slovakia 2023 واقعاً درباره اثر آنها نشان می‌دهد.چگونه یک ادعای انتخاباتی را راستی‌آزمایی کنیمیک روش چهارمرحله‌ایِ قابل تکرار برای بررسی هر ادعای انتخاباتیِ ویروسی پیش از آن‌که آن را باور کنید یا به اشتراک بگذارید — توقف، بررسی منبع، یافتن پوشش بهتر، و ردیابی تا منشأ.foreign election interference چگونه کار می‌کندجعبه‌ابزار کوچکی که یک دولت خارجی برای شکل‌دادن به رأی کشور دیگر به کار می‌گیرد — هک، افشاگری، عملیات اطلاعاتی، پول پنهان، و جعل هویت — و این‌که چرا به‌ندرت به شمارش آرا دست می‌زند.عملیات نفوذ چیستعملیات نفوذ، فریبِ هماهنگ و پنهان است — نه یک پستِ ویروسیِ منفرد. این‌که چگونه از حساب‌های جعلی، رسانه‌های پوششی و هویت‌های قرضی ساخته می‌شوند، و چگونه می‌توان آن‌ها را تشخیص داد.

پرونده‌های مرتبط در پایگاه داده

اشتراک‌گذاریXBlueskyFacebookLinkedInRedditWhatsAppTelegramEmail

پیوندهای اشتراک‌گذاری، سازنده بومی شبکه را باز می‌کنند. هیچ چیزی در اینجا تعبیه نشده است، بنابراین هیچ شخص ثالثی نمی‌فهمد کدام صفحه‌ها را خوانده‌اید.