Penggunaan AI Generatif dalam Kampanye Politik Munculkan Perhatian dan Kekhawatiran

JAKARTA - Politisi Partai Demokrat AS, Shamaine Daniels mencalonkan diri untuk Kongres. Ia  mengincar kursi yang saat ini dipegang oleh anggota Partai Republik yang bersekutu dengan Donald Trump, yaitu Scott Perry, yang memainkan peran kunci dalam menantang hasil pemilihan 2020.

Daniels, yang kalah dari Perry dengan selisih kurang dari 10 poin tahun lalu, berharap senjata baru ini akan membantu kampanye underdog-nya: Ashley, seorang relawan kampanye berkecerdasan buatan.

Ashley bukanlah robocaller biasa; tidak ada responsnya yang sudah dipersiapkan atau direkam sebelumnya. Para penciptanya, yang bermaksud bekerja terutama dengan kampanye dan kandidat Demokrat, mengatakan bahwa ia adalah pembuat panggilan telepon politik pertama yang didukung oleh teknologi kecerdasan buatan generatif yang mirip dengan ChatGPT milik OpenAI. Ia mampu menjalani sejumlah tak terbatas percakapan satu lawan satu yang disesuaikan pada saat yang sama.

Ashley adalah salah satu contoh awal bagaimana kecerdasan buatan generatif membawa masuk era baru kampanye politik di mana kandidat menggunakan teknologi untuk berinteraksi dengan pemilih dengan cara yang semakin sulit untuk dilacak.

Bagi sebagian orang, ini adalah alat baru yang menarik untuk melakukan percakapan berkualitas tinggi dalam skala besar. Namun, ada kekhawatiran bahwa hal ini akan memperburuk disinformasi dalam lanskap politik Amerika yang sudah terpolarisasi, yang sudah berjuang melawan "deepfakes," video dan gambar palsu yang realistis yang dibuat menggunakan algoritma kecerdasan buatan.

Selama akhir pekan, Ashley menelepon ribuan pemilih di Pennsylvania atas nama Daniels. Seperti relawan kampanye berpengalaman, Ashley menganalisis profil pemilih untuk menyusun percakapan yang disesuaikan dengan isu-isu kunci mereka. Berbeda dengan manusia, Ashley selalu siap untuk pekerjaan, memiliki ingatan sempurna dari semua posisi Daniels, dan tidak merasa kecewa ketika seseorang menutup teleponnya.

"Ini akan berkembang dengan cepat," kata Ilya Mouzykantskii, CEO Civox, perusahaan di balik Ashley. "Kami berencana untuk melakukan puluhan ribu panggilan setiap hari pada akhir tahun ini dan mencapai enam digit dalam waktu yang tidak lama. Ini akan hadir untuk Pemilu 2024 dan hadir dengan cara yang sangat besar. ... Masa depan sudah di depan mata."

Bagi Daniels, alat ini membuat kondisinya lebih seimbang: sebagai underdog, ia sekarang dilengkapi dengan cara lain untuk lebih memahami pemilih, mencapai mereka dalam berbagai bahasa (Ashley fasih dalam lebih dari 20 bahasa), dan melakukan lebih banyak percakapan "berbandwidth tinggi."

Namun, perkembangan ini membuat banyak orang khawatir, termasuk CEO OpenAI, Sam Altman, yang memberikan kesaksiannya di Kongres pada Mei bahwa ia "khawatir" akan kemampuan kecerdasan buatan generatif untuk mengompromikan integritas pemilihan melalui "disinformasi interaktif satu lawan satu."

Teknologi ini, yang belajar dari sejumlah besar data internet, telah menjadi sangat baik dalam percakapan realistis sehingga dalam beberapa bulan terakhir, orang telah jatuh cinta dan menyatakan mau menikahi chatbot berkecerdasan buatan.

Mouzykantskii mengatakan bahwa ia sepenuhnya sadar akan potensi kerugian, dan tidak bermaksud mengambil pendanaan modal ventura yang mungkin membujuknya untuk memprioritaskan keuntungan di atas etika.

Seperti OpenAI, ia mendirikan struktur tata kelola yang tidak biasa: sebuah komite yang berwenang memaksa dirinya untuk secara publik mengungkapkan segala sesuatu yang menimbulkan kekhawatiran tentang perusahaan. Civox telah memutuskan untuk memberikan suara berbunyi robot kepada Ashley dan mengungkapkan bahwa ia adalah AI, meskipun secara hukum tidak diwajibkan untuk melakukannya.

Mouzykantskii dan rekannya Adam Reis, mantan mahasiswa ilmu komputer di Universitas Stanford dan Columbia masing-masing, menolak untuk mengungkapkan model kecerdasan buatan generatif yang tepat yang mereka gunakan. Mereka hanya mengatakan bahwa mereka menggunakan lebih dari 20 model kecerdasan buatan yang berbeda, beberapa propietari dan beberapa open source.

Berkat teknologi kecerdasan buatan generatif terbaru, Reis dapat membangun produk tersebut hampir sepenuhnya sendiri, sedangkan beberapa tahun yang lalu, itu akan membutuhkan tim 50 insinyur selama beberapa tahun untuk melakukannya, katanya.

"Saya tidak tahu di bawah undang-undang federal apa itu ilegal," kata Robert Weissman, presiden organisasi advokasi konsumen nirlaba, Public Citizen.

Michigan adalah salah satu dari beberapa negara bagian yang telah melewati atau sedang membahas undang-undang untuk mengatur deepfakes dalam pemilihan. Pennsylvania, di mana Daniels mencalonkan diri, tidak memiliki undang-undang tersebut.

Tidak ada aturan yang berlaku secara langsung untuk apa yang dilakukan Civox. Peraturan Komisi Perdagangan Federal melarang pemasar telepon dari melakukan panggilan robo kepada orang-orang yang terdaftar di Daftar Jangan Ganggu, tetapi daftar ini tidak berlaku untuk panggilan politik - dan aktivitas Civox, dengan pesan "personal" nya, tidak memenuhi syarat sebagai panggilan robo.

Komisi Komunikasi Federal melarang panggilan suara berkaitan dengan kampanye yang diautomasikan atau perekaman suara, termasuk panggilan suara live otomatis ke ponsel tanpa persetujuan sebelumnya dari penerima. FCC juga sedang memulai penyelidikan resmi tentang bagaimana teknologi kecerdasan buatan mempengaruhi panggilan robo ilegal dan tidak diinginkan.

Komisi Pemilihan Federal telah mulai mempertimbangkan untuk mengatur penggunaan AI dalam kampanye. Tidak ada aturan ini yang berlaku untuk cara kampanye menggunakan teknologi Mouzykantskii.

Mouzykantskii mengatakan bahwa ia menyambut regulasi, mengingat potensi teknologi ini untuk menyebarkan disinformasi. Perusahaan lain kemungkinan akan menciptakan panggilan AI yang terdengar nyaris identik dengan manusia sungguhan dan tidak mengungkapkan bahwa pemanggil tersebut dihasilkan oleh AI, katanya.

"Ini harus memicu pemikiran tentang seberapa dekat kita dengan beberapa versi masa depan yang sebelumnya hanya tersedia dalam film dan buku fiksi ilmiah," katanya. "Dan itu sudah cukup untuk membuat regulator dan legislator, tidak hanya di Amerika Serikat tetapi secara global, mulai memperhatikan."

David Fish, 63 tahun, senang mendengar dari Ashley meskipun ia bisa langsung mengatahui bahwa itu bukan manusia.

"Ini membuat saya tertarik," katanya. "Hal yang saya suka adalah bahwa ia mengidentifikasi dirinya sebagai AI dan tidak mencoba menipu saya."