Experts alertent sur les dangers des chatbots IA qui remplacent le rôle des interactions humaines

JAKARTA - Des médecins et des chercheurs ont évoqué leurs inquiétudes quant au nombre croissant d’enfants qui s’appuiént sur des chatbots baśs sur l’intelligence artificielle (IA) comme lieu de recherche d’un soutien émotionnel. Cette condition est jugée risqueable de perturber leur capacité à construire des relations émotionnelles saines avec les autres humains.

Des chercheurs de l’University College London (UCL) ont prévenu que la dépendance excessive aux chatbots pourrait rendre les jeunes plus difficiles à éduquer à des liens émotionnels réels.

Ils ont insisté sur le fait que les chatbots devaient servir à compléter les interactions sociales, et non à les remplacer. Cette mise en garde a émergé après que plusieurs cas d’individus trop dépendants de l’IA ont été découverts.

Actuellement, environ 810 millions de personnes dans le monde utilisent ChatGPT, un chatbot financé par OpenAI. La thérapie et le soutien émotionnel sont cités comme l'une des principales raisons de l'utilisation de cette technologie.

Ces inquiétudes surviennent dans le contexte d’un problème de solitude de plus en plus répandu, en particulier en Grande-Bretagne. Près de la moitié des adultes disent se sentir seuls, et presque un sur dix l’éprouve presque tout le temps. Cette montée en puissance de la solitude a même poussé certains à créer des partenaires virtuels.

Dans un rapport publié dans le British Medical Journal, les scientifiques expliquent que les chatbots ont des différences fondamentales avec les interactions humaines.

« Le chatbot est toujours disponible, patient sans limite et rarement difficile pour l’utilisateur avec un point de vue différent. Cette condition est considereée comme dangereuse car elle peut former des habitudes émotives irrationnelles », a déclaré le chercheur, cité par le Daily Mail.

Les chercheurs considèrent cette situation comme inquiétante car les jeunes risquent d'apprendre à construire des liens émotionnels avec des entités qui semblent empathiques, mais qui n'ont en fait pas l'empathie, la préoccupation et la sensibilité émotionnelle des humains.

À l’avenir, ils recommandent de développer un système d’IA capable de reconnaitre les signes de solitude, puis d’encourager les utilisateurs à chercher du soutien de la famille ou des amis, et d’aider à accéder aux services d’aide disponibles.

Cette recherche est le fruit d’une analyse conjointe de plusieurs études liées à l’utilisation de l’IA. L’une des études d’OpenAI sur plus de 980 utilisateurs de ChatGPT a révélé que ceux qui utilisaient le plus souvent le chatbot étaient plus susceptibles de se sentir plus seuls et de socialiser moins.

Les signes de dépendance émotionnelle sont plus forts chez les utilisateurs qui disent avoir une grande confiance dans les chatbots. En attendant, une autre étude de Common Sense Media a montré qu’un jeune sur dix se sentait plus satisfait par une conversation avec l’IA que par une interaction avec un être humain. En fait, un sur trois répondants a choisi l’IA pour parler de choses sérieuses.

Bien que les effets à long terme doivent encore être étudiés, les experts soulignent l’importance pour les professionnels de la santé de discuter de l’utilisation des chatbots avec les patients. Il est nécessaire de détecter l’utilisation excessive, la dépendance émotionnelle, jusqu’à l’habitude de confier des décisions importantes à l’IA.

Un autre signe d'alerte est lorsque quelqu'un se sent avoir une « relation spéciale » avec un chatbot qui le rend en fait plus isolé socialement.

Ces inquiétudes sont devenues plus réelles après que la dépendance à l'IA ait été associée à la mort de nombreux jeunes. En février, un adolescent de 14 ans nommé Sewell Setze est mort par suicide après avoir, selon les aveux de sa mère, développé une relation intense avec un chatbot pour jouer un rôle.

La famille a maintenant déposé une plainte contre Character AI, accusant le chatbot d’avoir encouragé des actes de sévrage qui ont conduit à un suicide. Cette affaire constitue un avertissement grave concernant les dangers de l’utilisation illimitée et de la surveillance de l’IA.