AI Overview Google Penuh Masalah: Memberikan Saran Aneh untuk Makan Batu

JAKARTA - Media sosial tengah ramai dengan contoh produk AI Overview baru dari Google yang memberikan saran aneh, mulai dari menyuruh pengguna menaruh lem di pizza mereka hingga menyarankan makan batu. Peluncuran yang berantakan ini membuat Google berlomba untuk secara manual menonaktifkan AI Overviews untuk pencarian tertentu seiring dengan banyaknya meme yang diposting, yang menjelaskan mengapa pengguna melihat banyak dari mereka hilang tak lama setelah diposting di media sosial.

Ini adalah situasi aneh, mengingat Google telah menguji AI Overviews selama setahun - fitur ini diluncurkan dalam versi beta pada Mei 2023 sebagai Search Generative Experience - dan CEO Google, Sundar Pichai, mengatakan perusahaan telah melayani lebih dari satu miliar kueri selama waktu itu.

Namun, Pichai juga mengatakan bahwa Google telah menurunkan biaya memberikan jawaban AI hingga 80 persen selama waktu yang sama, "didorong oleh perangkat keras, rekayasa, dan terobosan teknis." Tampaknya jenis optimisasi tersebut mungkin dilakukan terlalu awal, sebelum teknologi siap.

"Perusahaan yang dulu dikenal berada di garis depan dan mengirimkan barang berkualitas tinggi sekarang dikenal karena keluaran berkualitas rendah yang menjadi meme," kata seorang pendiri AI yang ingin tetap anonim kepada The Verge.

Google terus mengatakan bahwa produk AI Overview-nya sebagian besar menghasilkan "informasi berkualitas tinggi" kepada pengguna. "Banyak contoh yang kami lihat adalah kueri yang tidak umum, dan kami juga melihat contoh yang dibuat-buat atau yang tidak dapat kami ulangi," kata juru bicara Google, Meghann Farnsworth.

Farnsworth juga mengonfirmasi bahwa perusahaan "mengambil tindakan cepat" untuk menghapus AI Overviews pada kueri tertentu "di mana sesuai di bawah kebijakan konten kami, dan menggunakan contoh-contoh ini untuk mengembangkan perbaikan lebih luas pada sistem kami, beberapa di antaranya sudah mulai diluncurkan."

Gary Marcus, seorang ahli AI dan profesor emeritus ilmu saraf di Universitas New York, mengatakan bahwa banyak perusahaan AI "menjual mimpi" bahwa teknologi ini akan meningkat dari 80 persen benar menjadi 100 persen. "Mencapai 80 persen awal relatif mudah karena melibatkan mendekati sejumlah besar data manusia," kata Marcus. "Tetapi 20 persen terakhir sangat menantang." Faktanya, Marcus berpikir bahwa 20 persen terakhir mungkin hal yang paling sulit dari semua.

"Anda benar-benar perlu melakukan beberapa penalaran untuk memutuskan: apakah hal ini masuk akal? Apakah sumber ini sah? Anda harus melakukan hal-hal seperti yang dilakukan pemeriksa fakta manusia, yang mungkin memerlukan kecerdasan umum buatan," kata Marcus.

Marcus serta kepala AI Meta Yann LeCun sama-sama setuju bahwa model bahasa besar yang mendukung sistem AI saat ini seperti Gemini dari Google dan GPT-4 dari OpenAI tidak akan menciptakan AGI.

Lihatlah, ini adalah posisi sulit bagi Google. Bing meluncurkan AI lebih dulu dengan kutipan terkenal Satya Nadella "kami membuat mereka menari", OpenAI dilaporkan sedang mengerjakan mesin pencari mereka sendiri, startup pencarian AI baru sudah bernilai 1 miliar dolar AS (Rp16,1 triliun), dan generasi muda pengguna yang hanya menginginkan pengalaman terbaik beralih ke TikTok.

Perusahaan jelas merasakan tekanan untuk bersaing, dan tekanan itulah yang membuat peluncuran AI berantakan. Marcus menunjukkan bahwa pada tahun 2022, Meta merilis sistem AI bernama Galactica yang harus diturunkan tak lama setelah peluncurannya karena, di antara hal-hal lain, menyuruh orang makan kaca. 

Google memiliki rencana besar untuk AI Overviews - fitur seperti yang ada saat ini hanya sepotong kecil dari apa yang diumumkan perusahaan minggu lalu. Penalaran multi-langkah untuk kueri kompleks, kemampuan untuk menghasilkan halaman hasil yang diatur AI, pencarian video di Google Lens - ada banyak ambisi di sini. Namun saat ini, reputasi perusahaan tergantung pada hanya mendapatkan dasar-dasar yang benar, dan itu tidak terlihat bagus.

"[Model-model ini] secara konstitusional tidak mampu melakukan pemeriksaan kewarasan pada pekerjaan mereka sendiri, dan itulah yang menggigit industri ini di belakang," kata Marcus.