Les modèles d'IA sont moins précis dans la détection de la dépression chez les noirs sur les médias sociaux

Sharath Chandra Guntuku du Center for Insight to Outcomes au Penn Medicine. (photo: x @PennEng Online )

JAKARTA - Une étude souligne les risques d’utilisation de modèles d’intelligence artificielle pour des tâches liées à la santé sans données de divers groupes raciaux et ethniques. L’étude a révélé que les modèles d’intelligence artificielle peuvent détecter les signaux de dépression chez les Américains blancs mais pas chez leurs homologues noirs. Cela a été rapporté par une étude qui a souligné les risques de formation à modèles d’intelligence artificielle pour des tâches liées à la santé sans données de différents groupes raciaux et ethniques.

Le modèle d’intelligence artificielle utilisé pour la recherche est plus de trois fois moins prévisible pour la dépression lorsqu’il est appliqué aux noirs utilisant les médias sociaux Meta Platforms, « Facebook.

« Ras semble avoir été ignoré, en particulier dans la recherche sur l’évaluation des maladies mentales basées sur la langue », ont écrit les auteurs américains de l’étude dans un rapport publié dans le National Academy of Science Prosiding.

Des recherches antérieures sur les publications sur les médias sociaux ont montré que les personnes qui utilisent fréquemment les mot de première personne, comme moi ou moi, et certaines catégories de mots, telles que les termes qui se sont humilient, ont un risque plus élevé de contracter la dépression.

Pour cette nouvelle étude, les chercheurs ont utilisé des outils d’intelligence artificielle « prêts à être utilisés » pour analyser les langues dans les dépôts de 868 bénévoles, dont le même nombre d’adultes noirs et blancs ayant d’autres caractéristiques telles que l’âge et le sexe.

Tous les participants ont également rempli des questionnaires validés utilisés par des fournisseurs de services de santé pour le dépistage de la dépression.

L’utilisation de «parler » ou de l’attention auto-concentrée et de l’humiliation, d’autocritique et de se sentir comme des personnes extraordinaires est associée à la dépression exclusivement pour les personnes blanches, a déclaré Sharath Chandra Guntuku, l’auteure de l’étude, du Center for Insight to Outcomes au Penn Medicine.

« Nous sommes surpris que l’association linguistique trouvée dans de nombreuses études précédentes ne s’applique pas à tout le monde », a déclaré Guntuku.

Les données sur les médias sociaux ne peuvent pas être utilisées pour diagnostiquer un patient atteint de dépression, a admis Guntuku, mais elles peuvent être utilisées pour évaluer les risques individuels ou groupes.

Une étude précédente de son équipe a analysé les langues dans les publications de médias sociaux pour évaluer la santé mentale des gens pendant la pandémie de COVID-19.

« Chez les patients atteints de troubles d’abus de drogues, il a été prouvé que les langues sur les médias sociaux qui signalent une dépression fournissent des connaissances sur les pannes de traitement et les récidives possibles », a déclaré Brenda Curtis du National Institute on toxicomanie au National Institute of Health américain, qui travaille également sur l’étude.