Σταματήστε να προσπαθείτε να το εντοπίσετε με το μάτι
Η πιο συνηθισμένη συμβουλή για τα deepfakes — να ψάχνετε για παράξενο ανοιγοκλείσιμο των ματιών, να μετράτε τα δάχτυλα, να παρακολουθείτε τα δόντια — καθίσταται σιωπηρά παρωχημένη. Αυτά τα σημάδια εντοπίζουν πρόχειρες απομιμήσεις, αλλά η τεχνολογία βελτιώνεται κάθε μήνα, και οι απομιμήσεις που έχουν πραγματική σημασία στις εκλογές τα έχουν ήδη ξεπεράσει. Η πιο σαφής απόδειξη είναι ότι το πιο αποτελεσματικό πολιτικό deepfake μέχρι στιγμής ήταν ηχητικό, όχι βίντεο, και ο ήχος δεν έχει δάχτυλα, δόντια ή ανοιγοκλείσιμο ματιών για να ελεγχθούν.
Ξεκινήστε, λοιπόν, εγκαταλείποντας την υπόθεση ότι μπορείτε να κερδίσετε μια αναμέτρηση βλέμματος με μια σύγχρονη απομίμηση. Συνήθως δεν μπορείτε, και η προσπάθεια καλλιεργεί ψευδή αυτοπεποίθηση. Τα καλά νέα είναι ότι σπάνια χρειάζεται, επειδή το πιο αδύναμο σημείο μιας απομίμησης σχεδόν ποτέ δεν είναι το ίδιο το μέσο — είναι όλα όσα βρίσκονται γύρω από το μέσο. Αυτό είναι το ίδιο μάθημα με το πώς να ελέγξετε ως προς την ακρίβεια οποιονδήποτε ισχυρισμό: κρίνετε την πηγή και το πλαίσιο, όχι μόνο το αντικείμενο.
Η προέλευση υπερισχύει των pixels
Το αξιόπιστο ερώτημα δεν είναι «φαίνεται αληθινό;» αλλά «από πού προήλθε αυτό;» Ένα deepfake μπορεί να απομιμηθεί τέλεια ένα πρόσωπο και μια φωνή· αυτό που δεν μπορεί να απομιμηθεί είναι μια αξιόπιστη, ανιχνεύσιμη προέλευση. Τα πραγματικά γεγονότα αφήνουν ίχνη — μια πλήρη καταγραφή, μια εκδήλωση Τύπου, κάλυψη από μέσα που θα έθεταν τη φήμη τους σε διακινδύνευση γι’ αυτό. Μια απομίμηση συνήθως εμφανίζεται ως ένα σύντομο, περικομμένο, χαμηλής ποιότητας απόσπασμα από έναν λογαριασμό για τον οποίο δεν έχετε ξανακούσει, χωρίς κανένα πρωτότυπο πουθενά πίσω του.
Ο έλεγχος της προέλευσης δεν έχει λάμψη — αναζήτηση της παλαιότερης εκδοχής, αναζήτηση πρωτογενούς πηγής, εξέταση του ποιος άλλος το αναφέρει — αλλά είναι αυτό που πραγματικά λειτουργεί, και λειτουργεί ανεξάρτητα από το πόσο πειστικά είναι τα pixels ή το κυματομορφικό σήμα.
Η παγίδα του χρόνου
Τα deepfakes στις εκλογές αξιοποιούνται ως όπλο λιγότερο μέσω της ποιότητας και περισσότερο μέσω του χρονισμού. Το εγχειρίδιο είναι να δημοσιευθεί μια απομίμηση αργά — ιδανικά στις τελευταίες ημέρες πριν από την ψηφοφορία, όταν δεν υπάρχει χρόνος να αποδομηθεί και, σε ορισμένες χώρες, μια περίοδος σιωπής της εκστρατείας φιμώνει νομικά τα πρόσωπα που είναι καλύτερα τοποθετημένα να απαντήσουν.
Οι βουλευτικές εκλογές του 2023 στη Σλοβακία αποτελούν την περίπτωση αναφοράς. Περίπου 48 ώρες πριν ανοίξουν οι κάλπες, κατασκευασμένο ηχητικό υλικό που υποτίθεται ότι έπιανε έναν αρχηγό κόμματος και έναν δημοσιογράφο να συζητούν για αλλοίωση ψήφων διαδόθηκε κατά τη διάρκεια του προεκλογικού μορατόριουμ, όταν η διάψευση ήταν περιορισμένη. Το κόμμα τελικά έχασε οριακά. Το ειλικρινές συμπέρασμα δεν είναι ότι η απομίμηση καθόρισε τις εκλογές — αυτό δεν μπορεί να αποδειχθεί — αλλά ότι ο χρονισμός της ήταν ολόκληρος ο σχεδιασμός. Επομένως, προκύπτει ένας πρακτικός κανόνας: να είστε πιο καχύποπτοι απέναντι σε ένα απόσπασμα ακριβώς όταν σας φαίνεται πιο ενοχοποιητικό και φτάνει στην πιο καθοριστική στιγμή.
Τα οπτικά και ηχητικά σημάδια (και γιατί εξασθενούν)
Όταν χρησιμοποιούνται προσεκτικά, τα παλαιά σημάδια εξακολουθούν να έχουν κάποια αξία απέναντι σε αδύναμες απομιμήσεις:
| Μέσο | Πιθανό σημάδι | Επιφύλαξη |
|---|---|---|
| Βίντεο | Αφύσικο ανοιγοκλείσιμο ματιών, παράξενα χέρια/δόντια, θόλωση στη γραμμή των μαλλιών, απόκλιση συγχρονισμού χειλιών-ομιλίας | Εξαφανίζονται σε καλές απομιμήσεις |
| Βίντεο | Φωτισμός ή σκιές που δεν ταιριάζουν με τη σκηνή | Πλέον είναι εύκολο να αποδοθούν σωστά |
| Ήχος | Επίπεδο συναίσθημα, παράξενη αναπνοή, ρομποτικός ρυθμός | Συχνά καλύπτονται από χαμηλή ποιότητα |
| Οποιοδήποτε | Πολύ σύντομο, υπερβολικά περικομμένο, χωρίς πλαίσιο | Το πιο ανθεκτικό σήμα |
Δύο προειδοποιήσεις. Πρώτον, η παρουσία ενός σημάδιου υποδηλώνει απομίμηση, αλλά η απουσία σημαδιών δεν αποδεικνύει τίποτα — οι καλύτερες απομιμήσεις δεν έχουν κανένα. Δεύτερον, μην πέσετε στην παγίδα του κατοπτρικού σφάλματος: η ύπαρξη deepfakes επιτρέπει στους ανθρώπους να απορρίπτουν γνήσιες καταγραφές ως ψεύτικες. Αυτό το αντανακλαστικό — το μερίδιο του ψεύτη — σημαίνει ότι το «μάλλον είναι deepfake» δεν αποτελεί ούτε αυτό ελεύθερη απαλλαγή, ούτε για εσάς ούτε για το πρόσωπο που καταγράφηκε.
Τα εργαλεία βοηθούν αλλά δεν αποφασίζουν
Υπάρχουν αυτοματοποιημένοι ανιχνευτές, και οργανισμοί όπως το WITNESS έχουν πιέσει για ευρύτερη πρόσβαση σε αυτούς. Αξίζει να χρησιμοποιούνται — αλλά ως ένδειξη, όχι ως ετυμηγορία. Η ανίχνευση υστερεί συστηματικά σε σχέση με τη δημιουργία, και τα εργαλεία παράγουν ψευδώς θετικά και ψευδώς αρνητικά αποτελέσματα, οπότε η έξοδος ενός μόνο εργαλείου πρέπει να τοποθετείται δίπλα στην προέλευση και το πλαίσιο, ποτέ να μην τα αντικαθιστά.
Οι ανθεκτικές άμυνες είναι οι ανθρώπινες που καλύπτονται στο deepfakes στις εκλογές: προ-αποδόμηση ώστε το κοινό να αναμένει απομιμήσεις της τελευταίας στιγμής, ταχεία και αξιόπιστη διάψευση, και η συνήθεια να τίθεται το ερώτημα «από πού προήλθε αυτό και γιατί τώρα;» πριν από το «φαίνεται αληθινό;». Αν βάλετε σωστά αυτή τη σειρά, είστε ήδη μπροστά από τις απομιμήσεις — χωρίς να χρειάζεται να κοιτάτε επίμονα ένα μόνο pixel.