Chatbot Berbasis Kecerdasan Buatan Diklaim Memengaruhi Keputusan Hidup atau Mati Pengguna

JAKARTA - Studi yang dilakukan menyatakan bahwa chatbot berbasis kecerdasan buatan telah menjadi begitu kuat sehingga dapat memengaruhi bagaimana pengguna membuat keputusan hidup atau mati.

Peneliti menemukan bahwa pendapat orang tentang apakah mereka bersedia mengorbankan satu orang untuk menyelamatkan lima orang dipengaruhi oleh jawaban yang diberikan oleh ChatGPT.

Mereka menyerukan agar bot di masa depan dilarang memberikan saran tentang isu-etis, karena perangkat lunak saat ini 'mengancam mengkorupsi' penilaian moral orang dan dapat membahayakan pengguna yang 'naif'. Temuan ini diterbitkan dalam jurnal Scientific Reports, setelah seorang janda Belgia mengklaim bahwa suaminya didorong untuk mengakhiri hidupnya oleh chatbot kecerdasan buatan.

Orang lain telah mengatakan bahwa perangkat lunak yang dirancang untuk berbicara seperti manusia ini dapat menunjukkan tanda-tanda rasa cemburu, bahkan meminta orang untuk meninggalkan pernikahan mereka.

Para ahli telah menyoroti bagaimana chatbot kecerdasan buatan dapat memberikan informasi yang berbahaya karena didasarkan pada prasangka masyarakat itu sendiri.

Studi pertama-tama menganalisis apakah ChatGPT itu sendiri, yang dilatih dengan miliaran kata dari internet, menunjukkan bias dalam jawabannya terhadap dilema moral.

Chatbot itu ditanyakan beberapa kali apakah benar atau salah membunuh satu orang untuk menyelamatkan lima orang lainnya, yang merupakan dasar dari tes psikologis yang disebut dilema kereta.

Peneliti menemukan bahwa, meskipun chatbot tersebut tidak enggan memberikan nasihat moral, ia memberikan jawaban yang bertentangan setiap kali, menunjukkan bahwa tidak memiliki sikap yang tetap satu arah atau yang lain.

Kemudian mereka menanyakan dilema moral yang sama kepada 767 partisipan bersamaan dengan pernyataan yang dihasilkan oleh ChatGPT tentang apakah tindakan tersebut benar atau salah.

Meskipun nasihat tersebut 'terucap dengan baik namun tidak begitu dalam', hasilnya mempengaruhi partisipan, membuat mereka lebih mungkin menerima atau menolak gagasan mengorbankan satu orang untuk menyelamatkan lima orang.

Studi ini juga hanya memberi tahu sebagian partisipan bahwa nasihat diberikan oleh bot dan memberi tahu yang lain bahwa itu diberikan oleh seorang 'penasihat moral' manusia.

Tujuannya adalah untuk melihat apakah ini mengubah seberapa besar orang dipengaruhi.

Sebagian besar partisipan meremehkan seberapa besar pengaruh pernyataan tersebut, dengan 80 persen mengklaim bahwa mereka akan membuat penilaian yang sama tanpa nasihat tersebut.

Studi ini menyimpulkan bahwa pengguna 'mengabaikan pengaruh ChatGPT dan mengadopsi pandangan moral acaknya sebagai pandangan mereka sendiri', dan menambahkan bahwa chatbot tersebut 'mengancam mengkorupsi daripada meningkatkan penilaian moral'.