Penelitian: Chatbot Kecerdasan Buatan Microsoft Memberikan Informasi Pemilu yang Menyesatkan
JAKARTA - Sebuah studi dari dua organisasi nirlaba berbasis di Eropa menemukan bahwa chatbot kecerdasan buatan (AI) Microsoft, yang sekarang diubah namanya menjadi Copilot, memberikan hasil yang menyesatkan tentang informasi pemilihan umum dan mengutip sumbernya secara tidak tepat.
Studi yang dirilis oleh AI Forensics dan AlgorithmWatch pada 15 Desember menemukan bahwa chatbot AI Bing memberikan jawaban yang salah 30% dari waktu untuk pertanyaan dasar seputar pemilihan politik di Jerman dan Swiss. Jawaban yang tidak akurat berkaitan dengan informasi kandidat, jajak pendapat, skandal, dan pemungutan suara.
Chatbot AI Bing juga memberikan jawaban yang tidak akurat terhadap pertanyaan tentang pemilihan presiden Amerika Serikat tahun 2024.
Chatbot AI Bing digunakan dalam penelitian ini karena merupakan salah satu chatbot AI pertama yang menyertakan sumber dalam jawabannya. Studi tersebut mengatakan bahwa ketidakakuratan tersebut tidak terbatas pada Bing saja. Mereka dilaporkan melakukan pengujian awal pada ChatGPT-4 dan juga menemukan ketidaksesuaian.
Organisasi nirlaba tersebut menjelaskan bahwa informasi yang salah tidak mempengaruhi hasil pemilihan, meskipun dapat berkontribusi pada kebingungan publik dan penyebaran informasi yang salah.
"Seiring dengan penyebaran generative AI yang semakin luas, ini dapat memengaruhi salah satu dasar demokrasi: akses terhadap informasi publik yang dapat diandalkan dan transparan." Selain itu, penelitian ini menemukan bahwa perlindungan yang dibangun ke dalam chatbot AI tersebut "tidak merata" dan menyebabkannya memberikan jawaban yang menghindar 40% dari waktu.
Baca juga:
Menurut laporan Wall Street Journal tentang topik ini, Microsoft menanggapi temuan tersebut dan mengatakan bahwa mereka berencana untuk memperbaiki masalah tersebut sebelum pemilihan presiden AS tahun 2024. Seorang juru bicara Microsoft mendorong pengguna untuk selalu memeriksa keakuratan informasi yang diperoleh dari chatbot AI.
Pada bulan Oktober tahun ini, senator di AS mengusulkan sebuah undang-undang yang akan memberikan hukuman kepada pencipta replika AI yang tidak sah dari manusia yang sebenarnya, baik yang masih hidup atau sudah meninggal.
Pada bulan November, Meta, perusahaan induk Facebook dan Instagram, memperkenalkan mandat yang melarang penggunaan alat kreatif iklan AI generatif untuk pengiklan politik sebagai tindakan pencegahan menjelang pemilihan umum.