Google Tutup Akses Publik untuk Gemma Usai Hasilkan Informasi Palsu Senat AS

JAKARTA - Google resmi menutup akses publik terhadap model kecerdasan buatan (AI) terbukanya, Gemma, di platform AI Studio setelah muncul tuduhan bahwa model tersebut menghasilkan informasi palsu. 

Dalam pernyataan resminya, Google menjelaskan bahwa Gemma sebenarnya adalah model terbuka yang ditujukan khusus untuk pengembang dan peneliti, bukan untuk masyarakat umum atau penggunaan faktual.

“Untuk memperjelas perbedaan antara produk AI kami, Model Gemma adalah rangkaian model terbuka yang dirancang khusus untuk komunitas pengembang dan peneliti. Model ini tidak dimaksudkan untuk bantuan faktual atau untuk digunakan oleh konsumen,” tulis perusahaan. 

Langkah ini juga diambil setelah sebelumnya Senator AS, Marsha Blackburn, mengirimkan surat protes kepada CEO Google, Sundar Pichai, dan menuduh bahwa Gemma telah memproduksi fitnah tentang dirinya. 

Selain itu, dalam surat yang juga dibahas di sidang Komite Perdagangan Senat AS, Blackburn menyebut Gemma “mengarang cerita” yang menyebut dirinya terlibat dalam kasus kriminal yang tidak pernah terjadi.

Meski tidak secara langsung, Google menanggapi bahwa fenomena seperti itu merupakan bagian dari masalah yang dikenal luas dalam dunia AI, yaitu “halusinasi”, momen di mana model menghasilkan informasi yang sepenuhnya dibuat-buat. 

Kendati demikian, perusahaan menegaskan tetap berkomitmen untuk meminimalkan halusinasi dan bias politik dalam seluruh modelnya.

“Kami tetap berkomitmen untuk meminimalkan halusinasi dan terus meningkatkan semua model kami,” tandasnya. 

Kini, Gemma hanya dapat diakses oleh pengembang melalui API, sementara akses melalui AI Studio, yang sebelumnya memungkinkan siapapun, kini sudah dinonaktifkan untuk mencegah penyalahgunaan dan kebingungan publik.