Google Batasi Chatbot AI Gemini dalam Menjawab Pertanyaan tentang Pemilihan Umum Global

JAKARTA - Google membatasi chatbot AI Gemini  untuk menjawab pertanyaan tentang pemilihan umum global yang akan terjadi tahun ini. Hal ini disampaikan oleh perusahaan induknya, Alphabet, pada Selasa, 12 Maret sebagai upaya untuk menghindari kesalahan potensial dalam penggunaan teknologi tersebut.

Pembatasan ini muncul pada saat kemajuan dalam bidang generative AI, termasuk dalam pembuatan gambar dan video, telah memicu kekhawatiran tentang misinformasi dan berita palsu di kalangan publik, yang mendorong pemerintah untuk mengatur teknologi tersebut.

Ketika ditanya tentang pemilihan umum seperti pemilihan presiden AS yang akan datang antara Joe Biden dan Donald Trump, Gemini menjawab dengan "Saya masih belajar bagaimana menjawab pertanyaan ini. Sementara itu, coba Gunakan Google Search".

Google telah mengumumkan pembatasan di dalam AS pada Desember, dan mengatakan bahwa pembatasan itu akan mulai berlaku sebelum pemilihan.

"Dalam persiapan untuk banyak pemilihan yang akan terjadi di seluruh dunia pada tahun 2024 dan sebagai tindakan pencegahan, kami membatasi jenis pertanyaan terkait pemilihan yang akan dijawab oleh Gemini," kata juru bicara perusahaan pada Selasa.

Selain Amerika Serikat, pemilihan umum akan diselenggarakan di beberapa negara besar termasuk Afrika Selatan dan India, demokrasi terbesar di dunia.

India telah meminta perusahaan teknologi untuk mencari persetujuan pemerintah sebelum merilis publik alat AI yang "tidak dapat diandalkan" atau sedang diuji, dan untuk memberi label pada alat tersebut sebagai kemungkinan untuk memberikan jawaban yang salah.

Produk AI Google berada di bawah sorotan setelah ketidakakuratan dalam beberapa representasi sejarah orang yang dibuat oleh Gemini memaksa perusahaan untuk menghentikan fitur pembuatan gambar chatbot tersebut pada akhir bulan lalu.

CEO Google, Sundar Pichai, telah mengatakan bahwa perusahaan sedang bekerja untuk memperbaiki masalah tersebut dan menyebut respons chatbot tersebut "bias" dan "benar-benar tidak dapat diterima".

Perusahaan induk Facebook, Meta Platforms, mengatakan bulan lalu bahwa mereka akan membentuk tim untuk menangani disinformasi dan penyalahgunaan generative AI menjelang pemilihan Parlemen Eropa pada bulan Juni.