Para Ahli Ingatkan AI Generatif dan Deepfake Mengancam Demokrasi dan Eksistensi Manusia

JAKARTA - Tingkat percepatan perkembangan kecerdasan buatan (AI) mungkin sudah mengganggu proses demokrasi seperti pemilihan. bahkan dapat mengancam eksistensi manusia. Peringatan ini dari para ahli AI yang disampaikan dalam konferensi Reuters NEXT di New York.

Ledakan perkembangan AI generatif, yang dapat menciptakan teks, foto, dan video sebagai tanggapan terhadap instruksi terbuka, dalam beberapa bulan terakhir telah memunculkan kegembiraan tentang potensinya sekaligus ketakutan bahwa AI ini bisa membuat beberapa pekerjaan menjadi tidak relevan, mengacaukan pemilihan umum, dan bahkan mungkin mengungguli manusia.

"Risiko terbesar saat ini adalah ancaman terhadap demokrasi... ada banyak pemilihan di seluruh dunia pada tahun 2024, dan peluang bahwa tidak satupun dari mereka akan dipengaruhi oleh deep fake dan sejenisnya, hampir nol," kata Gary Marcus, seorang profesor di Universitas New York, dalam sebuah panel di konferensi Reuters NEXT di New York pada Rabu, 8 November.

Salah satu keprihatinan utama adalah bahwa AI generatif telah mempercepat perkembangan deepfake - video realistis namun palsu yang dibuat oleh algoritma AI yang dilatih dengan banyak cuplikan online - yang muncul di media sosial, mengaburkan batas antara fakta dan fiksi dalam politik.

"Meskipun media sintetis semacam itu telah ada selama beberapa tahun, biaya yang dulu mencapai jutaan dolar sekarang bisa mencapai 300 dolar AS," kata Marcus.

Menurut para ahli di konferensi tersebut, perusahaan semakin menggunakan AI untuk mengambil keputusan, termasuk tentang penetapan harga, yang bisa menghasilkan hasil diskriminatif.

Marta Tellado, CEO organisasi nirlaba Consumer Reports, mengatakan bahwa hasil investigasinya menunjukkan bahwa pemilik mobil yang tinggal di lingkungan dengan mayoritas penduduk kulit hitam atau cokelat, dan dekat dengan lingkungan yang sebagian besar dihuni oleh penduduk kulit putih, membayar premi asuransi mobil 30% lebih tinggi.

"Bagi konsumen, tidak ada transparansi sedikit pun," katanya dalam sebuah wawancara panel.

Menurut Anthony Aguirre, pendiri dan direktur eksekutif Future of Life Institute, ancaman lain yang muncul dan harus diwaspadai oleh para pembuat kebijakan dan pemimpin teknologi adalah kemungkinan AI menjadi begitu kuat sehingga menjadi ancaman bagi kemanusiaan.

"Kita seharusnya tidak meremehkan seberapa kuatnya model-model ini sekarang dan seberapa cepat mereka akan menjadi lebih kuat," katanya.

Future of Life Institute, sebuah lembaga nirlaba yang bertujuan mengurangi risiko-risiko bencana dari perkembangan kecerdasan buatan yang canggih, mencuat dalam berita pada Maret ketika merilis surat terbuka yang menyerukan moratorium selama enam bulan terhadap pelatihan sistem AI yang lebih kuat daripada GPT-4 milik OpenAI.

Mereka memperingatkan bahwa laboratorium AI terlibat dalam "perlombaan yang tak terkendali" untuk mengembangkan "pikiran digital yang kuat yang tidak bisa dimengerti, diprediksi, atau dikendalikan oleh siapa pun - bahkan oleh penciptanya sendiri."

Pengembangan AI yang semakin kuat juga berisiko menghilangkan pekerjaan hingga pada titik di mana mungkin menjadi tidak mungkin bagi manusia untuk belajar keterampilan baru dan memasuki industri lain.

"Setelah itu terjadi, saya khawatir tidak akan semudah itu untuk kembali ke AI sebagai alat dan AI sebagai sesuatu yang memberdayakan orang. Dan itu akan lebih menjadi sesuatu yang menggantikan orang," kata Aguirre.