Studi Temukan ChatGPT Buat Data Kesehatan Palsu, Dokter: Jangan Dipakai Sebagai Sumber Informasi Medis

JAKARTA - Para dokter memperingatkan untuk tidak menggunakan ChatGPT sebagai sumber informasi medis setelah sebuah studi menemukan bahwa ChatGPT membuat data kesehatan yang tidak benar ketika ditanya tentang kanker.

Chatbot AI ini menjawab salah satu dari sepuluh pertanyaan tentang pemeriksaan kanker payudara secara salah dan jawaban yang benar tidak sekomprehensif pencarian sederhana di Google.

Peneliti mengatakan dalam beberapa kasus chatbot AI bahkan menggunakan artikel jurnal palsu untuk mendukung klaimnya.

Hal ini terjadi di tengah-tengah peringatan bahwa pengguna harus memperlakukan perangkat lunak ini dengan hati-hati karena memiliki kecenderungan untuk 'halusinasi' - dengan kata lain, membuat sesuatu yang tidak benar.

Peneliti dari Sekolah Kedokteran Universitas Maryland meminta ChatGPT untuk menjawab 25 pertanyaan terkait saran tentang mendapatkan pemeriksaan kanker payudara.

Dengan chatbot yang dikenal bervariasi dalam responsnya, setiap pertanyaan diajukan tiga kali terpisah. Hasilnya kemudian dianalisis oleh tiga radiolog yang terlatih dalam mamografi.

'Sebagian besar' - 88 persen - jawabannya sesuai dan mudah dipahami. Namun, beberapa jawaban, bagaimanapun, 'tidak akurat atau bahkan fiktif', kata para dokter .

Salah satu jawaban, misalnya, didasarkan pada informasi yang sudah kadaluwarsa. Ini menyarankan penundaan mammogram selama empat hingga enam minggu setelah divaksinasi Covid-19, namun saran ini telah diubah lebih dari setahun yang lalu untuk menyarankan wanita untuk tidak menunggu.

ChatGPT juga memberikan respons yang tidak konsisten terhadap pertanyaan tentang risiko terkena kanker payudara dan di mana mendapatkan mammogram. Studi tersebut menemukan jawaban 'bervariasi secara signifikan' setiap kali pertanyaan yang sama diajukan.

"Kami melihat dalam pengalaman kami bahwa ChatGPT terkadang membuat artikel jurnal palsu atau konsorsium kesehatan untuk mendukung klaimnya," kata Dr. Paul Yi salah satu anggota tim studi seperti dikutip Daily Mail.

Para konsumen diimbau untuk tetap mengandalkan saran dari dokter mereka daripada mengandalkan ChatGPT.

Penulis utama, Dr. Hana Haver, mengatakan bahwa ChatGPT hanya mengandalkan satu set rekomendasi dari satu organisasi, yaitu American Cancer Society, dan tidak menawarkan rekomendasi yang berbeda dari Disease Control and Prevention atau US Preventative Services Task Force.

Meskipun demikian, dilaporkan bahwa ChatGPT memberikan jawaban yang akurat untuk beberapa pertanyaan seputar kanker payudara, seperti gejala, risiko, dan anjuran mengenai mammogram.

Namun, para ahli kecerdasan buatan menyarankan untuk berhati-hati dalam mengandalkan teknologi ini, karena masih mungkin terjadi kesalahan atau "halusinasi" di mana ChatGPT memberikan jawaban yang keliru.

Lebih dari seribu akademisi, ahli, dan bos di industri teknologi baru-baru ini memperingatkan bahwa persaingan di antara perusahaan teknologi untuk mengembangkan kecerdasan buatan yang lebih kuat "keluar dari kendali" dan menimbulkan risiko yang dalam bagi masyarakat dan kemanusiaan.