არჩევნებში Deepfakes

რა არის deepfake სინამდვილეში

deepfake არის მედია — აუდიო, გამოსახულება ან ვიდეო — რომელიც სინთეზირებულია AI-ის მიერ ისე, რომ რეალური ადამიანი თითქოს ამბობს ან აკეთებს იმას, რაც არასოდეს გაუკეთებია. ტექნოლოგია ახალი არ არის, მაგრამ ბოლო დროს ორი რამ შეიცვალა: ის იაფი გახდა და საკმარისად კარგი გახდა, რომ შემთხვევით მაყურებელს მისი გარჩევა აღარ შეუძლია. არჩევნებში ეს კომბინაცია ადამიანის საკუთარ ხმასა და სახეს აქცევს ისეთ რამედ, რასაც მოწინააღმდეგე შეუძლია ისესხოს.

საფრთხის პოპულარული წარმოდგენა არის კანდიდატის უნაკლო ყალბი ვიდეო. ჯერჯერობით რეალობა უფრო მოკრძალებული და უფრო ჭკვიანურია: ყველაზე ეფექტური პოლიტიკური deepfake-ები იყო აუდიო, და არა ვიდეო — რადგან აუდიოს გენერირება უფრო იაფია, მას არ აქვს ვიზუალური ნიშნები, რომლებიც ყალბ ვიდეოს ამხელს, და ის შეუმჩნევლად ვრცელდება ხმოვანი შეტყობინებებით პირად მესიჯინგ-აპებში.

Slovakia-ის საქმე: ყალბი ჩანაწერი სიჩუმეში

საყრდენი მაგალითია Slovakia-ის საპარლამენტო არჩევნები 2023 წლის 30 სექტემბერს. კენჭისყრის გახსნამდე დაახლოებით 48 საათით ადრე სოციალურ მედიაში გავრცელდა აუდიოკლიპი, რომელიც თითქოს ასახავდა Michal Šimečka-ს, ლიბერალური Progressive Slovakia პარტიის ლიდერს, და გაზეთ Denník N-ის ჟურნალისტს, რომლებიც განიხილავდნენ, როგორ გაეყალბებინათ კენჭისყრა Roma უმცირესობისგან ბიულეტენების ყიდვით. ასეთი საუბარი არ შემდგარა; აუდიო იყო fabrication.

ის სახიფათო გახადა არა ყალბის ხარისხმა, არამედ დროის შერჩევამ. ის მოხვდა Slovakia-ის 48-საათიან წინასაარჩევნო მორატორიუმში — კანონით დადგენილ სიჩუმის პერიოდში, როდესაც მედიასა და პოლიტიკოსებს შეზღუდული აქვთ კამპანიის წარმოება — ამიტომ სწორედ ის ადამიანები, ვინც ყველაზე მეტად შეძლებდნენ მის უარყოფას, შეზღუდულნი იყვნენ ხმამაღალი პასუხის გაცემაში, სანამ ის ვრცელდებოდა. Progressive Slovakia-მ საბოლოოდ წააგო არჩევნები მცირე სხვაობით.

აქ „0 bullshit“ სტანდარტი მნიშვნელოვანია. მაცდურია ამის „deepfake-ს, რომელმაც არჩევნები გადაწყვიტა“ უწოდო. Slovakia-ის საქმის ფრთხილმა აკადემიურმა ანალიზმა აჩვენა, რომ საპირისპირო ტიპის სიზუსტე გაუმართლებელია: ყალბის რეალური გავლენა შედეგზე შეუძლებელია გამოეყოს ყველაფრისგან, რამაც ხმები გადაადგილა. გულწრფელი დასკვნა მეთოდს ეხება — დროით იარაღად ქცეულ ყალბს — და არა შედეგის დადასტურებულ ცვლილებას.

ორი საფრთხე: ყალბი ჩანაწერი და მატყუარას დივიდენდი

Deepfake-ები არჩევნებს ორი განსხვავებული გზით ემუქრება, და მეორე ადვილად გამორჩება.

1. შეთითხნილი კლიპი. სინთეზური აუდიო ან ვიდეო, გამოშვებული კანდიდატის დასაშავებლად ან სკანდალის გასაყალბებლად — იდეალურად იმდენად გვიან, რომ პასუხის გაცემა ვერ მოესწროს, როგორც Slovakia-ში.
2. liar's dividend. უფრო დახვეწილი ზიანი. როგორც კი ყველამ იცის, რომ დამაჯერებელი ყალბები არსებობს, პოლიტიკოსს, რომელიც ნამდვილ ჩანაწერშია დაფიქსირებული, შეუძლია უბრალოდ განაცხადოს, რომ ეს deepfake-ია. თავად ტექნოლოგიის არსებობა მატყუარას აძლევს მზა გაქცევის გზას — ამიტომ deepfake-ები ნდობას ანგრევს მაშინაც კი, როცა რეალურად არც ერთი ყალბი არ გამოიყენება.

მეორე, სავარაუდოდ, უფრო დიდი გრძელვადიანი საფრთხეა. ერთი ყალბი შეიძლება უარყოფილ იქნეს; ზოგადი დაშლა პრინციპისა „ხედავ და გჯერა“ — ვერა, და ის აზიანებს როგორც პატიოსანს, ისე არაპატიოსანს.

რატომ არის აუდიო ფრონტის ხაზი

სასარგებლოა კონკრეტულად განვმარტოთ, რატომ ლიდერობს აუდიო:

• ღირებულება. გამოსაყენებელ ხმის კლონს სჭირდება მხოლოდ სამიზნის რეალური მეტყველების რამდენიმე წუთი — რაც საჯარო ფიგურისთვის უხვად მოიპოვება.
• ვიზუალური ნიშნების არარსებობა. ყალბი ვიდეო კვლავ ამხელს თავს ხელებში, კბილებში, თვალის ხამხამში და განათებაში. აუდიოს არ აქვს მსგავსი გამცემი ნიშნები შემთხვევითი მსმენელისთვის.
• დაბალი ხარისხი ფარავს ხარვეზებს. განზრახ ტელეფონის ხარისხის კლიპი ნებისმიერ არტეფაქტს ცუდ კავშირს დაამსგავსებს და არა ყალბს.
• ბნელი გავრცელება. ხმოვანი შეტყობინებები მოძრაობს დახურულ არხებში — WhatsApp, Telegram, Signal — სადაც ვერც fact-checker-ი და ვერც პლატფორმა ვერ ხედავს მათ ჩასარევად.

რა იცავს არჩევნებს სინამდვილეში

აღმომჩენი ინსტრუმენტები ეხმარება, მაგრამ ყოველთვის ჩამორჩება ყალბებს, ამიტომ მდგრადი დაცვა პროცედურული და ადამიანურია:

• Prebunking. აუდიტორიის წინასწარ გაფრთხილება, რომ ბოლო წუთის ყალბები სავარაუდოა, რათა გვიან გავრცელებულ კლიპს შეხვდნენ ეჭვით და არა რწმენით.
• წარმოშობა შინაარსზე წინ. კლიპის შეფასება იმის მიხედვით, საიდან მოვიდა — ვინ გამოაქვეყნა პირველად, როდის და რა წყაროთი — და არა იმის მიხედვით, რამდენად დამაჯერებლად ჟღერს.
• სიჩუმის პერიოდის ხაფანგის გამოსწორება. Slovakia-ის საქმემ აჩვენა, როგორ შეუძლია მორატორიუმის წესებს ყალბის დაცვა; რამდენიმე იურისდიქცია ახლა ხელახლა განიხილავს, როგორ არის დაშვებული უარყოფა სიჩუმის პერიოდში.
• სწრაფი, სანდო უარყოფა. სარწმუნო, სწრაფი უარყოფა იმ პირისგან, რომლის იმიტაციაც მოხდა, და დამოუკიდებელი მედიიდან, მზად, რომ იმ მომენტში იმოქმედოს, როგორც კი ყალბი გამოჩნდება.

ამ ყველაფერს არ სჭირდება ყალბის თვალით ამოცნობა — რაც იღბლიანია, რადგან ეს ყოველ წელს უფრო რთულდება. საეჭვო კლიპის საკუთარი ძალებით შესამოწმებელი პრაქტიკული უნარები Verify ტრეკს ეკუთვნის, მაგრამ აზროვნება აქედან იწყება: როცა შოკისმომგვრელი ჩანაწერი კენჭისყრამდე ცოტა ხნით ადრე ჩნდება, პირველი კითხვა არ არის „ნამდვილია ეს?“ არამედ „საიდან მოვიდა ეს და რატომ ახლა?“