AI21 Labs Luncurkan Mesin Contextual Answers untuk Memitigasi Masalah Halusinasi dalam Chatbot

JAKARTA - AI21 Labs baru-baru ini meluncurkan "Contextual Answers," mesin pertanyaan-jawaban untuk model bahasa besar (LLM).

Dengan terhubung ke LLM, mesin baru ini memungkinkan pengguna untuk mengunggah perpustakaan data mereka sendiri untuk membatasi output model hanya pada informasi tertentu.

Peluncuran ChatGPT dan produk kecerdasan buatan (AI) serupa telah mengubah paradigma bagi industri AI, tetapi kurangnya kepercayaan membuat adopsi menjadi prospek yang sulit bagi banyak bisnis.

Menurut penelitian, karyawan menghabiskan hampir setengah dari waktu kerja mereka untuk mencari informasi. Ini merupakan peluang besar bagi chatbot yang mampu melakukan fungsi pencarian; namun, sebagian besar chatbot tidak ditujukan untuk tingkat perusahaan.

AI21 mengembangkan Contextual Answers untuk mengatasi kesenjangan antara chatbot yang dirancang untuk penggunaan umum dan layanan pertanyaan-jawaban tingkat perusahaan dengan memberi pengguna kemampuan untuk mengarahkan data dan perpustakaan dokumen mereka sendiri.

Menurut kiriman blog dari AI21, Contextual Answers memungkinkan pengguna untuk mengarahkan jawaban AI tanpa harus melatih ulang model, sehingga mengatasi beberapa hambatan terbesar dalam adopsi.

"Sebagian besar bisnis kesulitan mengadopsi [AI], dengan alasan biaya, kompleksitas, dan kurangnya spesialisasi model dalam data organisasi mereka, yang menyebabkan respons yang salah, 'berhalusinasi', atau tidak sesuai dengan konteks," ungkap AI21.

Salah satu tantangan utama terkait pengembangan LLM yang berguna, seperti ChatGPT dari OpenAI atau Bard dari Google, adalah mengajarkannya untuk menyatakan kurangnya keyakinan.

Biasanya, ketika pengguna mengajukan pertanyaan kepada chatbot, maka chatbot akan mengeluarkan respons bahkan jika tidak ada informasi yang cukup dalam kumpulan datanya untuk memberikan informasi yang faktual.

Dalam kasus-kasus ini, alih-alih mengeluarkan jawaban dengan keyakinan rendah seperti "Saya tidak tahu," LLM seringkali akan membuat informasi tanpa dasar fakta.

Para peneliti menyebut keluaran ini sebagai "halusinasi" karena mesin menghasilkan informasi yang tampaknya tidak ada dalam kumpulan datanya, seperti manusia yang melihat hal-hal yang sebenarnya tidak ada.

Menurut AI21, Contextual Answers dapat mengatasi masalah halusinasi sepenuhnya dengan mengeluarkan informasi hanya ketika relevan dengan dokumentasi yang disediakan pengguna atau tidak mengeluarkan apa-apa sama sekali.

Di sektor-sektor di mana akurasi lebih penting daripada otomatisasi, seperti keuangan dan hukum, kehadiran sistem transformer pra-latih (GPT) telah memberikan hasil yang bervariasi.

Para ahli terus merekomendasikan kewaspadaan dalam keuangan ketika menggunakan sistem GPT karena kecenderungannya untuk berhalusinasi atau membingungkan informasi, bahkan ketika terhubung ke internet dan mampu menghubungkan ke sumber-sumber. Dan di sektor hukum, seorang pengacara sekarang dihadapkan pada denda dan sanksi setelah mengandalkan keluaran yang dihasilkan oleh ChatGPT dalam suatu kasus.

Dengan memuat sistem AI dengan data yang relevan dan melakukan intervensi sebelum sistem dapat berhalusinasi informasi non-faktual, AI21 tampaknya telah menunjukkan penanggulangan masalah halusinasi.

Hal ini dapat menyebabkan adopsi massal, terutama di arena fintech, di mana lembaga keuangan tradisional enggan mengadopsi teknologi GPT, dan komunitas cryptocurrency dan blockchain memiliki kesuksesan campuran ketika menggunakan chatbot.