Model AI Kurang Akurat dalam Mendeteksi Depresi pada Orang Kulit Hitam di Media Sosial

JAKARTA - Sebuah penelitian menyoroti risiko penggunaan model kecerdasan buatan untuk tugas terkait kesehatan tanpa data dari kelompok ras dan etnis yang beragam. Penelitian tersebut menemukan bahwa model kecerdasan buatan dapat mendeteksi sinyal depresi pada orang Amerika kulit putih namun tidak pada rekan-rekan kulit hitam. Hal ini dilaporkan sebuah studi yang menyoroti risiko pelatihan model kecerdasan buatan untuk tugas terkait kesehatan tanpa data dari kelompok ras dan etnis yang beragam.

Model kecerdasan buatan yang digunakan untuk penelitian tersebut lebih dari tiga kali kurang prediktif untuk depresi ketika diterapkan pada orang kulit hitam yang menggunakan medsos Meta Platforms, '  Facebook.

"Ras tampaknya telah diabaikan terutama dalam penelitian tentang penilaian penyakit mental berbasis bahasa," tulis para penulis studi AS tersebut dalam laporan yang diterbitkan di PNAS, Prosiding Akademi Ilmu Pengetahuan Nasional.

Penelitian sebelumnya tentang kiriman media sosial telah menunjukkan bahwa orang yang sering menggunakan kata ganti orang pertama, seperti saya atau aku, dan kategori-kategori tertentu dari kata-kata, seperti istilah merendahkan diri sendiri, memiliki risiko lebih tinggi untuk depresi.

Untuk studi baru ini, para peneliti menggunakan alat kecerdasan buatan "siap pakai" untuk menganalisis bahasa dalam kiriman dari 868 sukarelawan, termasuk jumlah yang sama dari orang dewasa kulit hitam dan putih yang memiliki karakteristik lainnya seperti usia dan jenis kelamin.

Semua peserta juga mengisi kuesioner yang divalidasi yang digunakan oleh penyedia layanan kesehatan untuk skrining depresi.

Penggunaan "saya-berbicara" atau perhatian yang berfokus pada diri sendiri, dan merendahkan diri, kritik diri sendiri dan merasa seperti orang luar biasa terkait dengan depresi secara eksklusif untuk individu kulit putih, kata salah satu penulis studi, Sharath Chandra Guntuku dari Center for Insights to Outcomes di Penn Medicine.

"Kami kaget bahwa asosiasi bahasa yang ditemukan dalam banyak penelitian sebelumnya tidak berlaku untuk semua orang," kata Guntuku.

Data media sosial tidak dapat digunakan untuk mendiagnosis seorang pasien dengan depresi, akui Guntuku, tetapi itu bisa digunakan untuk penilaian risiko individu atau kelompok.

Sebuah studi sebelumnya oleh timnya menganalisis bahasa dalam kiriman media sosial untuk mengevaluasi kesehatan mental masyarakat selama pandemi COVID-19.

“Dalam pasien dengan gangguan penyalahgunaan zat, bahasa dalam media sosial yang menunjukkan depresi telah terbukti memberikan wawasan tentang kemungkinan putus perawatan dan kambuh,” kata Brenda Curtis dari National Institute on Drug Abuse di National Institutes of Health AS, yang juga bekerja pada penelitian tersebut.