Wali Kota New York City, Membela Chatbot AI yang Salah Memberikan Informasi

JAKARTA - Wali Kota New York City, Eric Adams, mempertahankan penggunaan chatbot kecerdasan buatan (AI) baru kota yang baru-baru ini terjebak memberikan jawaban yang salah atau memberikan saran yang, jika diikuti, akan melanggar hukum.

Saat diluncurkan sebagai uji coba pada  Oktober 2023, chatbot MyCity dipromosikan sebagai penggunaan teknologi AI pertama di seluruh kota, sesuatu yang akan memberikan pemilik bisnis "informasi yang dapat diambil tindakan dan terpercaya" sebagai tanggapan atas pertanyaan yang diketik ke dalam portal online.

Hal itu tidak selalu terbukti: jurnalis di outlet investigasi The Markup pertama kali melaporkan minggu lalu bahwa chatbot tersebut memberikan informasi yang salah. Chabot secara keliru menyarankan bahwa majikan bisa mengambil bagian dari tips pekerja mereka, dan bahwa tidak ada regulasi yang menuntut bos memberi pemberitahuan tentang perubahan jadwal karyawan.

"Ada beberapa hal yang salah, dan kita harus memperbaikinya," kata Adams, seorang politisi Demokrat, kepada wartawan pada  Selasa, 2 April. Ia  menekankan bahwa itu adalah program uji coba. "Setiap kali Anda menggunakan teknologi, Anda perlu memasukkannya ke dalam lingkungan nyata untuk menyelesaikan masalah-masalahnya," tambahnya.

Adams telah menjadi pendukung bersemangat untuk menggunakan teknologi yang belum diuji di kota dengan optimisme yang tidak selalu terbukti benar. Dia menempatkan sebuah robot yang beratnya 400 pon dengan bentuk ovoid samar di stasiun kereta bawah tanah Times Square tahun lalu yang ia harapkan akan membantu polisi mencegah kejahatan. Namun robot  itu pensiun sekitar lima bulan kemudian, di mana para pengguna jalan mencatat bahwa robot itu tidak pernah terlihat sedang melakukan apa pun. Robot itu  juga tidak bisa menggunakan tangga.

Sementara Chatbot yang dikeluhkan hingga kini tetap online.  Pada  Kamis lalu masih kadang-kadang memberikan jawaban yang salah. Ia juga mengatakan pemilik toko bebas untuk tidak menerima pembayaran tunai, tampaknya tidak menyadari undang-undang kota tahun 2020 yang melarang toko untuk menolak menerima pembayaran tunai. Chatbot juga masih berpikir upah minimum kota adalah  15 dolar AS per jam, meskipun itu dinaikkan menjadi  16 dolar AS mulai tahun 2024.

Chatbot, yang bergantung pada layanan AI Microsoft Azure, tampaknya diperdaya oleh masalah yang umum terjadi pada platform teknologi AI generatif yang disebut ChatGPT, yang terkadang dikenal membuat sesuatu yang tidak benar atau menyatakan kebohongan. Baik Microsoft maupun City Hall tidak menanggapi pertanyaan tentang apa yang menyebabkan kesalahan dan bagaimana cara memperbaikinya.

Pihak Kota telah memperbarui peringatan pada situs web chatbot MyCity, mencatat bahwa "responsnya terkadang bisa tidak akurat atau tidak lengkap" dan memberi tahu bisnis untuk "tidak menggunakan responsnya sebagai saran hukum atau profesional."

Andrew Rigie, yang membela ribuan pemilik restoran sebagai direktur NYC Hospitality Alliance, mengatakan bahwa ia telah mendengar dari pemilik bisnis yang bingung dengan respons chatbot. "Saya menghargai upaya kota untuk menggunakan AI untuk membantu bisnis, tetapi itu harus berfungsi," katanya.

Rigie juga  memperingatkan bahwa mengikuti beberapa panduan chatbot bisa membawa konsekuensi hukum yang serius. "Jika saat saya bertanya dan kemudian saya harus kembali kepada pengacara saya untuk mengetahui apakah jawabannya benar, itu mengalahkan tujuannya," ungkapnya.