Deepfake AI Berpotensi Menjadi Kejutan November dalam Pemilu

(SeaPRwire) –   Bayangkan saja: Pagi setelah Hari Pemilihan 2024, Amerika terbangun dengan video viral tentang surat suara yang dibuang ke tempat sampah dan rekaman kamera keamanan tentang petugas pemilu yang mengisi kotak suara di negara bagian medan perang. Dalam beberapa jam, politisi, pakar, dan influencer media sosial menjerit kecurangan. Tapi inilah intinya—tidak satupun dari peristiwa ini benar-benar terjadi. Mereka adalah deepfake digital, dirancang untuk terlihat sangat nyata sehingga bahkan analis berpengalaman pun tidak dapat membedakannya.

Skenarionya tidak terlalu mengada-ada, tetapi kita masih jauh dari siap. Saya telah menghabiskan setahun terakhir memimpin permainan perang tentang tantangan ancaman berbasis AI terhadap pemilihan bersama para teknolog, pejabat pemerintah saat ini dan mantan pejabat, serta kelompok masyarakat sipil. Terlepas dari siapa yang memenangkan perlombaan presiden, salah satu kekhawatiran terbesar kita adalah kemungkinan nyata dari “kejutan November”—bukan hanya kontroversi yang muncul menjelang Hari Pemilihan, tetapi gelombang pemalsuan yang dihasilkan AI setelah pemilihan yang dimaksudkan untuk meyakinkan pemilih bahwa pemilihan itu dicuri.

Dasar untuk krisis ini sudah diletakkan.

Pertama, bidang pelaku jahat telah berkembang. Setelah pemilihan tahun 2016, saya pergi ke Departemen Keamanan Dalam Negeri di mana saya membantu merevisi keamanan pemilihan AS setelah campur tangan Rusia. Anda akan mengira bahwa pengungkapan campur tangan Moskow akan menghalangi penyerang di masa depan. Tetapi campur tangan pemilihan sejak itu menjadi olahraga profesional, dengan lebih banyak tim yang masuk ke dalam permainan, seperti Tiongkok dan Iran.

Kedua, periode pascapemilihan sekarang menjadi sasaran. Tahun 2020 menunjukkan bagaimana Amerika—terutama pihak yang kalah—rentan terhadap klaim bahwa sistem tersebut diatur. Musuh asing dan ekstremis domestik belajar bahwa mereka tidak perlu mengubah penghitungan suara itu sendiri; mereka hanya perlu menyebarkan keraguan setelah kejadian, ketika emosi sedang tinggi dan kepercayaan terhadap hasil pemilu paling lemah.

Ketiga, pejabat pemilihan mengakui bahwa mereka tidak siap. Dalam perjalanan saya melintasi negara, para pemimpin negara bagian dan daerah berulang kali mengatakan kepada saya bahwa salah satu ketakutan terbesar mereka adalah munculnya “bukti” yang terlihat otentik bahwa pemilihan itu dicuri yang tidak dapat mereka sanggah dengan mudah. Tidak seperti tahun 2020, ketika sebagian besar klaim palsu dibuang, pemalsuan AI saat ini mudah dibuat dan mungkin membutuhkan waktu berminggu-minggu—atau bahkan berbulan-bulan—untuk dibantah. Pada saat itu, kerusakan sudah terjadi.

Yang lebih buruk lagi, hubungan antara pejabat pemerintah dan perusahaan media sosial lebih retak dari sebelumnya. Kasus pengadilan dan kontroversi tentang sensor online telah menciptakan efek yang mengerikan, membuat kedua belah pihak enggan untuk bekerja sama. Akibatnya, daerah setempat memiliki lebih sedikit sumber daya teknis untuk diandalkan dalam krisis.

Untuk lebih jelas, AI bukanlah musuh di sini. Teknologi pembelajaran mesin pada akhirnya akan membantu melindungi pemilihan kita dengan lebih baik. Startup muncul untuk memerangi risiko ini, dari startup deteksi deepfake hingga perusahaan yang meningkatkan keamanan siber jaringan pemilihan. Tetapi saat ini kita berada di “jendela arbitrase” yang berbahaya di mana pelaku jahat dapat melakukan serangan sebelum orang baik memiliki alat untuk melakukan pertahanan yang kuat.

Jadi apa solusinya antara sekarang dan Hari Pemilihan?

Jawaban terbaik adalah kesadaran publik. Pemilih harus mengembangkan pengenalan pola untuk spoof ini sama seperti yang kita lakukan ketika spam mulai masuk ke kotak masuk email kita pada tahun 1990-an. Deepfake akan menjadi “pangeran Nigeria” yang baru di kotak masuk kita, yang menyuruh kita untuk mentransfer $10.000 kepada mereka. Hanya saja sekarang mereka akan lebih pribadi, lebih meyakinkan, dan lebih menyeluruh, termasuk ketika datang untuk menipu kita tentang demokrasi kita sendiri.

Dalam jangka panjang, kita perlu merombak arsitektur keamanan pemilihan kita. Ya, kita telah membuat langkah besar setelah serangan Rusia tahun 2016, tetapi Amerika kembali rentan. Kongres harus mewajibkan lembaga untuk berinvestasi dalam teknologi yang lebih baik melindungi sistem pemungutan suara, memberdayakan para pejabat untuk mengidentifikasi konten sintetis yang digunakan untuk penipuan atau penindasan pemilih (tanpa menjadi arbiter kebenaran), dan menciptakan pagar pengaman yang tepat untuk keterlibatan antara petugas pemilihan dan perusahaan media sosial.

Sementara itu, para pemain industri teknologi harus mempercepat upaya untuk membantu pengguna membedakan media “nyata” atau “dimanipulasi” secara default, termasuk melalui tanda tangan kriptografi dan tanda air.

Dalam simulasi baru-baru ini, saya melihat seberapa mudah deepfake pascapemilihan dapat memicu situasi buruk menjadi kekacauan total. “Tim merah”—bermain peran sebagai musuh asing—mampu membuat video realistis yang mencantumkan petugas pemilu menghancurkan surat suara di negara bagian ayun. Saat klip tersebut menyebar, “tim biru”—bermain peran sebagai pejabat pemilihan—bergegas untuk memverifikasi keaslian video tersebut sementara para komentator mengipasi api. Pada saat kita membuktikan bahwa itu palsu, kerusakan sudah terjadi. Pemilih telah turun ke jalan.

Calon atau kampanye yang korup dapat melakukan kekacauan dengan melakukan hal yang sama. Baru-baru ini, dilaporkan bahwa ketua Komite Hubungan Luar Negeri Senat ditipu ke dalam panggilan Zoom dengan seorang pejabat tinggi Ukraina yang ternyata adalah deepfake. Sedikit imajinasi diperlukan untuk melihat bagaimana operator politik dapat menggunakan taktik ini untuk menyamar sebagai tokoh kredibel untuk membagikan informasi palsu tentang hasil pemilihan kepada lawan atau pendukung mereka, untuk menyebarkan penelitian oposisi yang dibuat-buat, atau untuk mengalihkan perhatian calon lain dalam krisis. Anggap saja itu sebagai trik kotor dengan steroid.

Ini adalah masa depan yang kita tuju, dan tidak cukup untuk bereaksi dengan cepat ketika itu tiba. Kita perlu membicarakannya sekarang—sebelum suara diberikan dan pertempuran untuk legitimasi dimulai. Jika tidak, Amerika mungkin bangun pada tanggal 6 November dengan kejutan yang mengerikan: perang digital untuk demokrasi di mana kebenaran adalah korban pertama.