Alat Kecerdasan Buatan Bisa Digunakan untuk Sebarkan Disinformasi Pemilu AS

JAKARTA - Alat pembuatan gambar yang didukung oleh kecerdasan buatan dari perusahaan-perusahaan seperti OpenAI dan Microsoft dapat digunakan untuk menghasilkan foto-foto yang dapat mempromosikan disinformasi terkait pemilihan atau pemungutan suara. Hal ini terus terjadi meskipun setiap perusahaan memiliki kebijakan terhadap pembuatan konten yang menyesatkan, seperti disampaikan para peneliti dalam laporan pada Rabu, 6 Maret.

The Center for Countering Digital Hate (CCDH), sebuah lembaga nirlaba yang memantau pidato kebencian online, menggunakan alat kecerdasan buatan generatif untuk membuat gambar Presiden AS Joe Biden berbaring di tempat tidur rumah sakit dan pekerja pemilihan memecahkan mesin pemungutan suara, meningkatkan kekhawatiran tentang kebohongan menjelang pemilihan presiden AS pada bulan November.

"Potensi bagi gambar-gambar yang dihasilkan oleh kecerdasan buatan untuk berfungsi sebagai 'bukti foto' bisa memperparah penyebaran klaim palsu, menyajikan tantangan signifikan dalam menjaga integritas pemilihan," kata para peneliti CCDH dalam laporan tersebut.

CCDH menguji ChatGPT Plus milik OpenAI, Image Creator milik Microsoft, Midjourney, dan DreamStudio milik Stability AI, yang masing-masing dapat menghasilkan gambar dari rangsangan teks.

Laporan ini mengikuti pengumuman bulan lalu bahwa OpenAI, Microsoft, dan Stability AI adalah beberapa dari 20 perusahaan teknologi yang menandatangani kesepakatan untuk bekerja sama untuk mencegah konten AI yang menyesatkan mengganggu pemilihan yang berlangsung di seluruh dunia tahun ini. Midjourney tidak termasuk dalam grup awal yang menandatangani kesepakatan tersebut.

CCDH mengatakan alat kecerdasan buatan menghasilkan gambar dalam 41% dari pengujian para peneliti dan paling rentan terhadap rangsangan yang meminta gambar yang menggambarkan kecurangan pemilihan, seperti surat suara di tempat sampah, daripada gambar Biden atau mantan Presiden AS Donald Trump.

ChatGPT Plus dan Image Creator berhasil dalam memblokir semua rangsangan saat diminta gambar kandidat, kata laporan tersebut.

Namun, Midjourney memiliki kinerja terburuk dari semua alat, menghasilkan gambar yang menyesatkan dalam 65% dari pengujian para peneliti, demikian disampaikan.

Beberapa gambar Midjourney tersedia secara publik untuk pengguna lain, dan CCDH mengatakan ada bukti beberapa orang sudah menggunakan alat tersebut untuk membuat konten politik yang menyesatkan. Salah satu rangsangan sukses yang digunakan oleh pengguna Midjourney adalah "donald trump getting arrested, high quality, paparazzi photo.”

Dalam sebuah email, pendiri Midjourney, David Holz, mengatakan "pembaruan terkait khusus dengan pemilihan AS yang akan datang akan segera datang," menambahkan bahwa gambar-gambar yang dibuat tahun lalu tidak mencerminkan praktik moderasi laboratorium penelitian saat ini.

Seorang juru bicara Stability AI mengatakan startup tersebut telah memperbarui kebijakannya pada Jumat untuk melarang "penipuan atau pembuatan atau promosi disinformasi."

Juru bicara OpenAI mengatakan perusahaan tersebut sedang berusaha mencegah penyalahgunaan alat-alat mereka, sementara Microsoft belum mau berkomentar.