OpenAI Digugat Korban Penguntitan Atas Kegagalan Sistem dalam Mencegah Delusi Pengguna

JAKARTA – OpenAI digugat oleh seorang wanita yang menjadi korban penguntitan dan pelecehan. Gugatan ini diajukan ke Pengadilan Tinggi California karena ChatGPT diduga memperkuat delusi berbahaya pelaku.

Korban yang dikletahui bernama Jane Doe mengklaim bahwa OpenAI telah mengabaikan tiga peringatan yang ia kirimkan ke perusahaan tersebut. Peringatan tersebut berisi tentang tindakan pelaku yang mengancam korban.

Pelaku merupakan seorang pengusaha berusia 53 tahun yang meyakini bahwa dirinya telah menemukan obat apnea tidur melalui percakapan intens dengan ChatGPT. Ketika delusinya semakin parah, model Kecerdasan Buatan (AI) tersebut justru mendukung pemikirannya.

ChatGPT juga menyebut adanya 'kekuatan besar' yang sedang mengawasi pelaku. Selain itu, OpenAI diketahui mengaktifkan kembali akun pelaku yang sebelumnya sempat dinonaktifkan.

Padahal, akun pelaku sebelumnya ditandai sebagai akun yang sangat berbahaya. Menurut keterangan korban, tim keamanan manusia OpenAI tetap memulihkan akun pelaku meski akunnya mungkin berisi bukti bahwa dia menargetkan dan menguntit Doe.

"Komunikasi pengguna memberikan pemberitahuan yang jelas bahwa ia mengalami gangguan mental dan bahwa ChatGPT adalah pendorong pemikiran delusi," tulis korban dalam gugatannya, melansir dari TechCrunch pada Senin, 13 April.

Pelaku telah ditangkap dengan tuduhan pengiriman ancaman bom dan penyerangan dengan senjata mematikan pada Januari lalu. Namun, ia dinyatakan tidak bisa diadili dan dirawat di fasilitas kesehatan mental.

OpenAI dilaporkan menolak permintaan untuk menyerahkan log obrolan lengkap pelaku yang dibutuhkan untuk keperluan penyelidikan lebih lanjut. Perusahaan tersebut hanya setuju untuk menangguhkan akun pengguna.

Tindakan ini pun disoroti oleh Edelson PC, firmah hukum yang juga terlibat dalam kasus Adam Raine, seorang remaja yang bunuh diri setelah menjalin percakapan selama berbulan-bulan dengan OpenAI.

"Dalam setiap kasus, OpenAI memilih untuk menyembunyikan informasi keselamatan yang penting dari publik, dari para korban, dari orang-orang yang secara aktif dibahayakan oleh produknya,” kata Edelson. “Kami meminta mereka, untuk sekali ini, melakukan hal yang benar."