Hasilkan Gambar AI yang Kontroversial, Google Analisis Kesalahan Gemini

JAKARTA – Alat pembuat gambar di chatbot Gemini sempat mendapatkan kritikan karena hasil yang tidak akurat dan menyalahi sejarah. Akibatnya, fitur tersebut harus dinonaktifkan.

Berdasarkan temuan beberapa pengguna di platform X, fitur tersebut menghasilkan gambar yang beragam untuk pencarian Founding Fathers AS dan menyertakan orang dengan kulit berwarna di pencarian tentara Jerman era Nazi.

Wakil Presiden Senior Prabhakar Raghavan mengakui hasil gambar seperti itu memang salah. Mewakili Google, Raghavan meminta maaf dan mengatakan alat penghasil gambar di Gemini sedang diperbaiki untuk hasil yang lebih baik.

“Jelas bahwa fitur ini meleset dari sasaran. Beberapa gambar yang dihasilkan tidak akurat atau bahkan menyinggung. Kami berterima kasih atas masukan pengguna dan meminta maaf karena fitur ini tidak berfungsi dengan baik,” kata Raghavan melalui blog Google.

Sebenarnya, Google berusaha menyertakan unsur keberagaman untuk menyasar pengguna dari seluruh dunia. Namun, unsur keberagaman ini tidak bisa dikontrol oleh algoritma Gemini sehingga alat pembuat gambarnya menghasilkan gambar yang tidak tepat.

Menurut Raghavan, ada dua hal yang pelu diperhatikan dari kesalahan ini. Pertama, orang yang menggunakan Gemini melakukan kesalahan dalam menginput deskripsi. Seperti alat AI pada umumnya, Gemini membutuhkan rentang yang jelas.

Kedua, Google baru menyadari bahwa Gemini menjadi lebih berhati-hati dalam menghasilkan gambar AI. Alat ini menolak untuk menjawab perintah tertentu dan menyalahartikan beberapa perintah yang menurutnya sensitif.

“Kedua hal ini menyebabkan model memberikan kompensasi yang berlebihan dalam beberapa kasus dan menjadi terlalu konservatif dalam kasus lain, sehingga menghasilkan gambaran yang memalukan dan salah,” jelas Raghavan.

Meski Gemini sedang diperbaiki dan akan diuji lagi secara esktensif, Raghavan tidak bisa menjanjikan hasil gambar yang lebih akurat. Pasalnya, AI masih bisa memiliki kekurangan, tetapi ia menjanjikan teknologi yang aman dan bertanggung jawab.

“Saya tidak dapat menjanjikan bahwa Gemini tidak akan sesekali memberikan hasil yang memalukan, tidak akurat, atau menyinggung, namun saya dapat berjanji bahwa kami akan terus mengambil tindakan setiap kali kami mengidentifikasi suatu masalah,” tutup Raghavan.