Perusahaan Pengiriman Paket di Inggris Nonaktifkan Fungsi AI Setelah Chatbot Buat Puisi Negatif

JAKARTA - Sebuah perusahaan pengiriman paket di Inggris telah menonaktifkan fungsi kecerdasan buatan (AI) dalam sistem obrolan online-nya setelah seorang pengguna yang frustasi berhasil membujuk sistem untuk membuat puisi tentang seberapa buruk layanan pelanggan perusahaan tersebut.

"Pernah ada chatbot bernama DPD, Yang tak berguna dalam memberikan bantuan," begitu puisi yang dihasilkan ketika Ashley Beauchamp menyerah untuk mencoba mendapatkan nomor telepon layanan pelanggan dan meminta chatbot untuk menulis puisi tentang layanan chatbot yang buruk.

"DPD adalah pemborosan waktu, Dan mimpi buruk pelanggan," lanjut bot sebelum menyimpulkan. "Suatu hari, DPD akhirnya ditutup dan semua orang bersukacita. Akhirnya mereka bisa mendapatkan bantuan yang mereka butuhkan, Dari orang nyata yang tahu apa yang mereka lakukan."

Beauchamp, seorang pianis dan konduktor, memposting percakapannya dengan bot tersebut di platform media sosial X pada  Kamis, 18 Januari, dan sejak saat itu telah dilihat sebanyak 1,1 juta kali.

Dia mengatakan awalnya dia meminta bot memberinya lelucon setelah gagal mendapatkan informasi tentang status suatu paket, dan ketika bot melakukannya, dia meminta bot untuk menulis puisi tentang kegagalan layanan pelanggan otomatis. Dia juga mendorong bot untuk mengucapkan kata-kata kasar.

Beauchamp mengatakan kepada stasiun televisi ITV bahwa dia masih belum menerima paketnya. "Saya pikir mereka mungkin akan menyandera paket itu sekarang. Saya tidak akan menyalahkan mereka," katanya. "Itu sepenuhnya kesalahan saya."

DPD UK mengatakan mereka telah menggunakan elemen AI dalam sistem obrolan mereka dengan sukses selama beberapa tahun bersamaan dengan layanan pelanggan manusia, tetapi kesalahan terjadi setelah pembaruan sistem.

"Elemen AI segera dinonaktifkan dan saat ini sedang diperbarui," demikian pernyataan perusahaan yang dilaporkan oleh ITV.