AS Menghadapi Ancaman Deepfake yang Meningkat Menjelang Pemilihan 2024

JAKARTA - Mendekati siklus pemilihan presiden pada tahun 2024, Amerika Serikat menghadapi tantangan baru dalam bentuk penipuan pemilihan yang semakin canggih menggunakan deepfake, yang mengharuskan pemilih untuk memperoleh keterampilan baru guna membedakan antara yang asli dan palsu.

Pada 27 Februari, Ketua Komite Intelijen Senat AS, Mark Warner, menyatakan bahwa Amerika kurang siap menghadapi penipuan pemilihan untuk pilpres 2024 dibandingkan dengan pemilihan sebelumnya pada 2020.

Penurunan kesiapan ini sebagian besar disebabkan oleh meningkatnya penggunaan deepfake di AS selama setahun terakhir. Menurut data dari SumSub, layanan verifikasi identitas, terjadi peningkatan sebanyak 1.740% dalam deepfake di Amerika Utara, dengan peningkatan 10 kali lipat dalam jumlah deepfake yang terdeteksi di seluruh dunia pada tahun 2023.

Contoh nyata dari ancaman deepfake ini adalah ketika warga New Hampshire melaporkan menerima panggilan otomatis dengan suara Presiden AS Joe Biden, yang memberi tahu mereka untuk tidak memilih dalam pemilihan pendahuluan negara bagian pada 23 Januari.

Insiden ini memicu tindakan regulator di AS untuk melarang penggunaan suara AI dalam penipuan telepon otomatis, membuatnya ilegal berdasarkan hukum pemasaran telepon AS.

Meskipun langkah-langkah hukum telah diambil, para penipu terus mencari celah. Saat AS bersiap untuk Super Tuesday pada 5 Maret, kekhawatiran meningkat atas informasi palsu yang dihasilkan oleh AI dan deepfake.

Pavel Goldman Kalaydin, kepala AI dan machine learning di SumSub, untuk memahami lebih baik cara pemilih dapat mempersiapkan diri untuk mengidentifikasi deepfake dan menangani situasi penipuan identitas deepfake.

Kalaydin menekankan pentingnya pemilih untuk waspada dalam memeriksa konten yang mereka konsumsi di media sosial dan memverifikasi sumber informasi. Dia juga memberikan beberapa tanda-tanda khas yang harus diwaspadai dalam deepfake, seperti gerakan yang tidak alami, latar belakang buatan, dan perubahan pencahayaan.

Meskipun pemahaman akan deepfake meningkat, Kalaydin memperingatkan bahwa teknologi ini akan terus berkembang dengan cepat, sehingga membuatnya semakin sulit untuk dideteksi oleh mata manusia tanpa teknologi deteksi khusus.

Salah satu tantangan terbesar adalah dalam generasi dan distribusi deepfake. Akses mudah ke teknologi AI telah membuka pintu bagi penyebaran konten palsu, sementara kurangnya regulasi hukum membuatnya sulit untuk menghentikan penyebarannya secara daring.

Untuk mengatasi masalah ini, Kalaydin menyarankan agar platform media sosial menerapkan pemeriksaan otomatis untuk konten AI atau deepfake dan memanfaatkan teknologi deteksi deepfake untuk memastikan keaslian konten.

Sementara itu, pemerintah di seluruh dunia mulai mengambil tindakan. India, misalnya, merilis pedoman bagi perusahaan teknologi lokal untuk mendapatkan persetujuan sebelum merilis alat AI yang tidak dapat diandalkan. Di Eropa, Komisi Eropa telah menciptakan panduan misinformasi AI untuk platform-platform yang beroperasi di wilayah tersebut.

Saat AS bersiap untuk pemilihan 2024, upaya perlindungan terhadap pemilih dari penipuan pemilihan yang semakin canggih dengan deepfake harus menjadi prioritas utama bagi pemerintah, platform media sosial, dan masyarakat secara keseluruhan.