Τι είναι στην πραγματικότητα ένα deepfake
Ένα deepfake είναι μέσο — ήχος, εικόνα ή βίντεο — συνθετοποιημένο από AI, ώστε ένα πραγματικό πρόσωπο να φαίνεται ότι λέει ή κάνει κάτι που ποτέ δεν έκανε. Η τεχνολογία δεν είναι νέα, αλλά πρόσφατα άλλαξαν δύο πράγματα: έγινε φθηνή και έγινε αρκετά καλή ώστε ένας περιστασιακός θεατής να μην μπορεί να τη διακρίνει. Σε μια εκλογή, αυτός ο συνδυασμός μετατρέπει τη φωνή και το πρόσωπο ενός ανθρώπου σε κάτι που ένας αντίπαλος μπορεί να δανειστεί.
Η δημοφιλής εικόνα της απειλής είναι ένα άψογο ψεύτικο βίντεο ενός υποψηφίου. Η πραγματικότητα μέχρι στιγμής είναι πιο περιορισμένη και πιο έξυπνη: τα πιο αποτελεσματικά πολιτικά deepfakes ήταν ήχου, όχι βίντεο — επειδή ο ήχος είναι φθηνότερος στην παραγωγή, δεν φέρει κανένα από τα οπτικά σημάδια που αποκαλύπτουν το ψεύτικο βίντεο και διαδίδεται αόρατα μέσω φωνητικών σημειωμάτων σε εφαρμογές ιδιωτικής ανταλλαγής μηνυμάτων.
Η υπόθεση της Slovakia: ένα ψεύτικο μέσα στη σιωπή
Το χαρακτηριστικό παράδειγμα είναι οι βουλευτικές εκλογές της Slovakia της 30ής Σεπτεμβρίου 2023. Περίπου 48 ώρες πριν ανοίξουν οι κάλπες, ένα ηχητικό απόσπασμα διαδόθηκε στα μέσα κοινωνικής δικτύωσης, το οποίο υποτίθεται ότι κατέγραφε τον Michal Šimečka, ηγέτη του φιλελεύθερου κόμματος Progressive Slovakia, και έναν δημοσιογράφο της εφημερίδας Denník N να συζητούν πώς να νοθεύσουν την ψήφο αγοράζοντας ψηφοδέλτια από τη ρομά μειονότητα. Η συνομιλία δεν έγινε ποτέ· ο ήχος ήταν μια κατασκευή.
Αυτό που το έκανε επικίνδυνο δεν ήταν η ποιότητα του ψεύτικου, αλλά ο χρονισμός. Έφτασε μέσα στην 48ωρη προεκλογική μορατόριουμ της Slovakia — μια νομικά επιβεβλημένη περίοδο σιωπής κατά την οποία τα μέσα ενημέρωσης και οι πολιτικοί περιορίζονται από την προεκλογική εκστρατεία — έτσι ώστε οι ίδιοι οι άνθρωποι που ήταν καλύτερα τοποθετημένοι να το διαψεύσουν να μην μπορούν να απαντήσουν δυναμικά ενώ κυκλοφορούσε. Το Progressive Slovakia τελικά έχασε τις εκλογές οριακά.
Εδώ το πρότυπο «0 bullshit» έχει σημασία. Είναι δελεαστικό να το αποκαλέσει κανείς «το deepfake που έκρινε μια εκλογή». Η προσεκτική ακαδημαϊκή ανάλυση της σλοβακικής υπόθεσης έδειξε ότι το αντίθετο είδος βεβαιότητας δεν δικαιολογείται: ο πραγματικός αντίκτυπος του ψεύτικου στο αποτέλεσμα είναι αδύνατο να απομονωθεί από όλα τα άλλα που μετακίνησαν ψήφους. Το ειλικρινές δίδαγμα αφορά τη μέθοδο — ένα ψεύτικο που οπλοποιήθηκε μέσω του χρονισμού — όχι μια αποδεδειγμένη μεταβολή του αποτελέσματος.
Οι δύο απειλές: το ψεύτικο και το liar's dividend
Τα deepfakes απειλούν τις εκλογές με δύο διακριτούς τρόπους, και ο δεύτερος είναι εύκολο να παραβλεφθεί.
- Το κατασκευασμένο απόσπασμα. Ένα συνθετικό ηχητικό ή βίντεο, που δημοσιεύεται για να δυσφημίσει έναν υποψήφιο ή να κατασκευάσει ένα σκάνδαλο — ιδανικά πολύ αργά για να αντικρουστεί, όπως στη Slovakia.
- Το liar's dividend. Η πιο λεπτή βλάβη. Μόλις όλοι γνωρίζουν ότι υπάρχουν πειστικά ψεύτικα, ένας πολιτικός που συλλαμβάνεται σε μια πραγματική ηχογράφηση μπορεί απλώς να ισχυριστεί ότι πρόκειται για deepfake. Η ίδια η ύπαρξη της τεχνολογίας δίνει στους ψεύτες μια έτοιμη οδό διαφυγής — έτσι τα deepfakes διαβρώνουν την εμπιστοσύνη ακόμη και όταν δεν χρησιμοποιείται κανένα ψεύτικο στην πράξη.
Το δεύτερο είναι πιθανώς ο μεγαλύτερος μακροπρόθεσμος κίνδυνος. Ένα μεμονωμένο ψεύτικο μπορεί να διαψευστεί· μια γενική κατάρρευση του «βλέπω σημαίνει πιστεύω» δεν μπορεί να διαψευστεί, και βλάπτει εξίσου τους έντιμους και τους ανέντιμους.
Γιατί ο ήχος είναι το μέτωπο
Αξίζει να είμαστε συγκεκριμένοι για το γιατί προηγείται ο ήχος:
- Κόστος. Ένα χρήσιμο αντίγραφο φωνής χρειάζεται μόνο λίγα λεπτά πραγματικού λόγου του στόχου — άφθονο υλικό για οποιοδήποτε δημόσιο πρόσωπο.
- Χωρίς οπτικά σημάδια. Το ψεύτικο βίντεο εξακολουθεί να προδίδεται από τα χέρια, τα δόντια, το ανοιγοκλείσιμο των ματιών και τον φωτισμό. Ο ήχος δεν έχει αντίστοιχα προδοτικά στοιχεία για έναν περιστασιακό ακροατή.
- Η χαμηλή πιστότητα κρύβει τα ελαττώματα. Ένα σκόπιμα απόσπασμα ποιότητας τηλεφώνου κάνει οποιαδήποτε τεχνουργήματα να ακούγονται σαν κακή σύνδεση, όχι σαν ψεύτικο.
- Σκοτεινή διάδοση. Τα φωνητικά σημειώματα κινούνται μέσω κλειστών καναλιών — WhatsApp, Telegram, Signal — όπου κανένας fact-checker ή πλατφόρμα δεν μπορεί να τα δει για να παρέμβει.
Τι προστατεύει πραγματικά μια εκλογή
Τα εργαλεία ανίχνευσης βοηθούν, αλλά πάντα υστερούν έναντι των ψεύτικων, οπότε οι ανθεκτικές άμυνες είναι διαδικαστικές και ανθρώπινες:
- Prebunking. Προειδοποίηση του κοινού εκ των προτέρων ότι είναι πιθανές οι ψεύτικες παρεμβάσεις της τελευταίας στιγμής, ώστε ένα καθυστερημένο απόσπασμα να αντιμετωπίζεται με καχυποψία και όχι με πίστη.
- Προέλευση αντί περιεχομένου. Αξιολόγηση ενός αποσπάσματος με βάση το από πού προήλθε — ποιος το ανάρτησε πρώτος, πότε, με ποια πηγή — και όχι με βάση το πόσο πειστικό ακούγεται.
- Διόρθωση της παγίδας της περιόδου σιωπής. Η υπόθεση της Slovakia αποκάλυψε πώς οι κανόνες μορατόριουμ μπορούν να προστατεύσουν ένα ψεύτικο· αρκετές δικαιοδοσίες επανεξετάζουν τώρα πώς επιτρέπεται η διάψευση κατά την ήσυχη περίοδο.
- Ταχεία, αξιόπιστη διάψευση. Μια αξιόπιστη, γρήγορη διάψευση από το πρόσωπο που έχει υποδυθεί κάποιος και από ανεξάρτητα μέσα, έτοιμη να κινηθεί τη στιγμή που εμφανίζεται ένα ψεύτικο.
Τίποτε από αυτά δεν απαιτεί να εντοπίσει κανείς το ψεύτικο με το μάτι — κάτι που είναι τυχερό, επειδή αυτό γίνεται κάθε χρόνο δυσκολότερο. Οι πρακτικές δεξιότητες για να εξετάσετε μόνοι σας ένα ύποπτο απόσπασμα ανήκουν στη διαδρομή Verify, αλλά η νοοτροπία ξεκινά εδώ: όταν εμφανίζεται μια συγκλονιστική ηχογράφηση λίγο πριν από μια ψηφοφορία, το πρώτο ερώτημα δεν είναι «είναι αληθινό;» αλλά «από πού προήλθε αυτό και γιατί τώρα;»