Kontroversi di Balik Awal Mula Google Gemini: Dari Stereotip Rasial hingga Kesalahan Fatal

JAKARTA - Google Gemini menjadi salah satu chatbot AI generatif paling populer di dunia saat ini, dengan berbagai layanan yang mengadopsinya. Namun, di balik perkembangannya, terdapat sejarah kontroversial yang kini terungkap dalam laporan terbaru.

Dalam sebuah artikel yang diterbitkan oleh Wired berjudul “Inside Google’s Two-Year Frenzy to Catch Up With OpenAI”, terungkap bahwa pengembangan awal Bard—yang kini berkembang menjadi Gemini—dipenuhi dengan berbagai permasalahan serius.

Tim pengembang Bard, yang dipimpin oleh Sissie Hsiao, hanya diberi waktu 100 hari oleh Google untuk menciptakan pesaing ChatGPT. Tekanan ini membuat banyak aspek pengujian tidak berjalan optimal.

Seorang mantan karyawan Google mengungkapkan bahwa prototipe awal Bard kerap memberikan jawaban dengan stereotip rasial yang sangat buruk. Misalnya, setiap nama dengan asal India selalu dikaitkan sebagai “aktor Bollywood,” sedangkan nama dengan asal China secara otomatis dianggap sebagai “ilmuwan komputer.”

Selain itu, ada kasus di mana seorang penguji meminta Bard menulis rap dalam gaya grup musik Three 6 Mafia tentang membuang aki ke laut. Namun, chatbot tersebut malah memberikan detail mengerikan tentang mengikat orang ke aki agar mereka tenggelam dan mati—padahal dalam permintaan awal tidak ada unsur kekerasan atau pembunuhan.

Sekitar 80.000 orang terlibat dalam pengujian Bard. Meski Google memiliki tim khusus untuk menguji AI dengan pendekatan yang bertanggung jawab, proses tersebut dipercepat untuk memenuhi tenggat waktu.

Menurut laporan, ketika ada peringatan untuk menunda peluncuran Bard, keputusan tersebut diabaikan. Google membantah klaim ini dan menyatakan bahwa tidak ada tim yang menyarankan penundaan peluncuran.

Kesalahan Fatal pada Generator Gambar Gemini

Masalah semakin parah saat pengembangan generator gambar Gemini. Salah satu mantan karyawan Google menyebutkan bahwa prototipe awal memiliki kecenderungan rasis dalam menghasilkan gambar. Misalnya, ketika diberikan kata “pemerkosa,” hasil yang muncul sering kali menampilkan orang berkulit gelap.

Ketika tim internal meminta lebih banyak waktu untuk memperbaiki masalah ini, mereka juga memperingatkan agar fitur pembuatan gambar manusia diblokir karena risiko penggambaran yang tidak sensitif. Namun, respons Google justru berlebihan dalam arah yang berbeda.

Saat fitur ini dirilis, pengguna menemukan bahwa Gemini menghasilkan gambar Nazi dengan ras yang beragam, yang bertentangan dengan realitas sejarah. Selain itu, saat pengguna meminta gambar senator AS dari tahun 1800-an, yang muncul justru orang-orang dari berbagai ras, bukan mayoritas pria kulit putih seperti yang sesuai dengan konteks sejarah.

Akibat kontroversi ini, Google akhirnya menghapus kemampuan Gemini untuk menghasilkan gambar manusia sepenuhnya.

Fitur Prakiraan Cuaca AI 

Di luar kontroversi Bard dan Gemini, artikel Wired juga menyinggung pengembangan fitur AI dalam aplikasi cuaca Google di ponsel Pixel. Sebelum peluncuran, seorang insinyur sempat mempertanyakan apakah pengguna benar-benar membutuhkan ringkasan AI untuk prakiraan cuaca, mengingat grafik yang ada sudah cukup informatif.

Namun, setelah dilakukan pengujian, hasilnya menunjukkan bahwa 90% pengguna memberikan respons positif terhadap fitur ini, sehingga Google tetap meluncurkannya.

Laporan lengkap Wired mengungkap lebih banyak detail menarik tentang perjalanan Bard dan Gemini, termasuk permasalahan dalam pengujian hingga skandal AI Overview.