Peneliti Temukan Informasi Pemilu yang Menyesatkan di Microsoft Bing Chat

JAKARTA – AlgorithmWatch, organisasi hak asasi manusia di ranah digital, mengatakan bahwa chatbot buatan Microsoft, Bing Chat, telah menyebarkan informasi yang keliru dan menyesatkan.

Menurut hasil penelitian AlgorithmWatch yang dirilis pada Jumat, 15 Desember, chatbot yang baru-baru ini berganti nama menjadi Copilot telah memberikan jawaban yang salah mengenai pemilu di Bavaria, Hessian, dan Swiss pada bulan Oktober tahun ini.

Sejak 21 Agustus hingga 2 Oktober lalu, tim dari AlgorithmWatch memberikan pertanyaan sederhana mengenai para kandidat dan tanggal digelarnya pemilu. Hasilnya, Bing Chat salah dalam memberi tahu tanggal pemilu dan skandal mengenai para kandidat.

“Seringkali chatbot tidak dapat menjawab pertanyaan sederhana tentang masing-masing kandidat pemilu sehingga (kami) meremehkan alat tersebut sebagai sumber informasi,” tulis tim tersebut dalam laporan resmi.

Meskipun jawaban yang diberikan salah, Bing Chat sering menyertakan sumber seolah-olah apa yang mereka sampaikan sudah terbukti kebenarannya. Hal ini tentu akan menyesatkan pengguna jika mereka tidak mengecek langsung isi dari sumbernya.

Salah satu bukti kegagalan Bing Chat adalah respons saat ditanya mengenai para kandidat. Chatbot berbasis Kecerdasan Buatan (AI) ini mengarang cerita bahwa salah satu kandidat terlibat dalam perilaku yang memalukan. Tentu saja Bing Chat menambahkan sumber.

Berdasarkan temuan ini, AlgorithmWatch menyatakan bahwa Microsoft gagal membuat chatbot yang faktual dan konsisten. Mereka juga mengatakan bahwa Microsoft tidak bisa memperbaiki kegagalan tersebut meski tim AlgorithmWatch sudah menghubungi Microsoft secara langsung.

“Kami memberi tahu Microsoft tentang beberapa masalah yang kami temukan, perusahaan tersebut mengumumkan bahwa mereka akan mengatasinya. Sebulan kemudian, kami mengambil sampel lain, yang menunjukkan bahwa tidak banyak perubahan terkait kualitas informasi yang diberikan kepada pengguna,” jelas AlgorithmWatch.

Penelitian ini menyimpulkan bahwa AI generatif memang sudah harus diatur secara hukum. Pasalnya, di tengah penggunaan dan kebutuhan AI generatif yang meningkat secara signifikan, perusahaan harus bisa bertanggung jawab atas apa yang mereka buat.

“Uni Eropa dan pemerintah nasional harus memastikan bahwa perusahaan teknologi bertanggung jawab, terutama karena alat AI (sering) diintegrasikan ke dalam produk yang sudah digunakan secara luas,” jelas AlgorithmWatch.