Inggris Memperingatkan Risiko Penggunaan Chatbot Berbasis Kecerdasan Buatan

JAKARTA - Pejabat Inggris sedang memberikan peringatan kepada organisasi terkait integrasi chatbot berbasis kecerdasan buatan (AI) ke dalam bisnis mereka. Mereka mengatakan bahwa penelitian semakin menunjukkan bahwa chatbot tersebut dapat dikelabui untuk melakukan tugas-tugas berbahaya.

Dalam sepasang pos blog yang direncanakan akan dipublikasikan pada Rabu, 30 Agutsus, Pusat Keamanan Siber Nasional Inggris (NCSC) mengatakan bahwa para ahli belum sepenuhnya memahami potensi masalah keamanan yang terkait dengan algoritma yang dapat menghasilkan interaksi yang terdengar seperti manusia - yang disebut sebagai model bahasa besar, atau LLM.

Alat-alat yang ditenagai oleh kecerdasan buatan itu saat ini mulai digunakan sebagai chatbot yang beberapa orang bayangkan akan menggantikan tidak hanya pencarian internet tetapi juga pekerjaan layanan pelanggan dan panggilan penjualan.

NCSC mengatakan bahwa hal tersebut dapat membawa risiko, terutama jika model-model tersebut dihubungkan ke elemen-elemen lain dalam proses bisnis organisasi tersebut. Akademisi dan peneliti secara berulang kali telah menemukan cara untuk merusak chatbot dengan memberikan perintah-perintah nakal atau menipu mereka untuk menghindari pengamanan internal mereka sendiri.

Sebagai contoh, chatbot yang ditenagai oleh kecerdasan buatan dan digunakan oleh sebuah bank mungkin bisa dikelabui untuk melakukan transaksi tanpa izin jika seorang peretas merancang pertanyaan mereka dengan benar.

"Organisasi yang membangun layanan yang menggunakan LLM perlu berhati-hati, seperti halnya jika mereka menggunakan produk atau perpustakaan kode yang masih dalam tahap beta," kata NCSC dalam salah satu pos blognya, merujuk pada rilis perangkat lunak eksperimental.

"Mereka mungkin tidak akan membiarkan produk tersebut terlibat dalam melakukan transaksi atas nama pelanggan, dan seharusnya tidak sepenuhnya mempercayainya. Kewaspadaan serupa harus diterapkan pada LLM," ungkap NCSC, dikutip Reuters.

Otoritas di seluruh dunia sedang berjuang menghadapi meningkatnya penggunaan LLM, seperti ChatGPT dari OpenAI, yang diintegrasikan oleh bisnis ke dalam berbagai layanan, termasuk penjualan dan layanan pelanggan. Implikasi keamanan dari kecerdasan buatan juga masih dalam tahap pengembangan, sementara otoritas di AS dan Kanada mengatakan bahwa mereka telah melihat peretas mengadopsi teknologi ini.