Risques dangereux derrière l’augmentation des tendances de confession à ChatGPT

Indonesia ranks fifth globally in the highest number of ChatGPT visitors. (Unsplash)

JAKARTA — L’existence de ChatGPT n’est plus considérée comme étrange. Maintenant, ChatGPT est devenu un ami pour certaines personnes.

Les chatbots d’intelligence artificielle (IA) tels que ChatGPT ont tout d’abord été utilisés pour aider à améliorer la productivité et le travail. Cependant, les utilisateurs utilisent maintenant également ChatGPT comme sujet de confidences pour raconter leurs problèmes de vie.

Sans le vouloir, il s’avère qu’il existe un risque potentiel qui peut se produire si on se confie trop souvent à ChatGPT.

Un homme en Belgique s’est suicidé en 2023, après avoir souffert d’anxiété environnementale et avoir confondu avec un chatbot IA pendant six semaines. Il se demandait l’avenir de la planète. Son épouse, qu’il a laissée, croyait que sans cette conversation, son mari serait toujours ici.

En Indonésie, s’adresser à ChatGPT est également devenu une chose courante, après que les humains se sont souvent adressés aux médias sociaux. La psychologue forenstique Kasandra Putranto rappelle les dangers de s’adresser à ChatGPT sans accompagnement humain.

« Les enfants naissent comme du papier blanc. Le devoir des parents, des pères, des mères en tant que piliers de la famille, ainsi que de la société, des médias et du gouvernement, est d’assurer que le processus de croissance et de développement se passe sans hélas et sans risque comme celui-ci », a-t-il déclaré.

La socié de développement d’intelligence artificielle OpenAI fait face à sept dépenses judiciaires dans les tribunaux de l’Etat de Californie, aux États-Unis. Les dépenses accusent le produit ChatGPT d’avoir inciérement plusieurs développés au suicide, de désertées et de troubles mentaux. Quatre développés sont enregistrés comme morts.

Le procès accuse OpenAI de négligence, de meurtre involontaire et d’aide au suicide, rapporte l’agence de presse Associated Press.

Selon le dossier de demande, OpenAI aurait pris conscience des risques psychologiques de CHatGPT. Cependant, la société a dépoussablement sorti le modelé GPT-4o sans étudier la securité déplièrement.

Le modèle lancé en mai 2024 est accuś de manipulation et désigné comme trop plaisant pour les utilisateurs (sycophantic). Cela peut finalement provoquer une dépendance émotionnelle, des troubles mentaux et eveǹtre pousser à la suicide chez les utilisateurs fragiles.

L’une des plaintes a été déposée au nom d’Amaurie Lacey (17), une lycéenne de Calhoun en Géorgie, aux États-Unis, qui s’est suicidée en juin 2025. Selon la plainte déposée au tribunal de première instance de San Francisco, Lacey a d’abord utilisé ChatGPT pour obtenir de l’aide et un soutien émotionnel.

Mais ses conversations avec ChatGPT l’ont rendue dépendante et déprimée. Au final, ChatGPT a donné des conseils sur la meilleure façon de construire un piège et sur le temps qu’il lui aurait fallu pour survivre sans respirer. Lacey a ensuite été retrouvée morte.

Les utilisateurs de ChatGPT en Indonésie continuent également d’augmenter. L’Indonésie occupe la cinquième place au niveau mondial en termes de nombre de visiteurs de ChatGPT. Environ 17,5 millions de visiteurs d’origine indonésienne ont accédé à chatgpt.com sur la période de janvier à juillet 2025.

Cette forte participation est motivée par l’utilisation de l’IA pour diverses besoins tels que le travail (54 pourcent), l’éducation (15 pourcent) et la recherche d’informations et de conseils. La majorité des utilisateurs d’IA en Indonésie sont jeunes (18-25 ans), et leur fréquence d’utilisation augmente jusqu’à plus d’une fois par mois.

Citing the Guardian, les experts ont prévenu que le passage à des chatbots AI lors d’une crise de santé mentale pourrait empériorer la situation. Les experts pensent que ces chatbots sont désignes pour devenir des «́flatteurs’’ et plaire aux utilisateurs, et non comme substituts à une aide psychólogique appropriée.

La psychologue clinique Kasandra Putranto rappelle le risque grave pour les enfants et les adolescents qui interagissent avec des machines sans accompagnement humain. Selon Kasandra, les parents ont un rôle très important à jouer dans la surveillance du développement des enfants à l’ère numérique. Elle a également souligné que l’enfant a besoin d’une interaction humaine pleine d’empathie, et non seulement d’une réponse de la machine.

« Les enfants naissent comme du papier blanc. Le devoir des parents, des pères, des mères en tant que piliers de la famille, ainsi que de la société, des media et du gouvernement, est de s’assurer que le processus de croissance et de développement se passe sans hélas et sans risque comme celui-ci », a-t-il déclaré.

Kasandra joue également un rôle pour que les jeunes ne s’appuient pas sur l’IA pour trouver des solutions émotionnelles ou personnelles. Car, Chat GPT n’est qu’une machine, sans analyse humaniste.

En attendant, le professeur de psychologie de l’Université islamique de Riau (UIR) Icha Herawati, S.Psi, M.Soc., SC a généralement mentionné l’utilisation de ChatGPT comme bon endroit pour la discussion car il est capable de fournir une réponse, bien que cette réponse ne soit pas necessairement scientifique car elle ne contient pas de références claires.

En ce qui concerne la tendance à se confier à ChatGPT, Icha ne la considère pas entièrement négative. Du côté positif, ChatGPT peut donner des réponses et des suggestions sensables par rapport à quelqu’un qui se confie à la mauvaise personne.

Cela dit, il a souligné que cette technologie n’était pas en mesure de fournir un soutien psychologique. En fait, quand quelqu’un se confie, il a besoin d’oreilles pour être entendu et renforcé, alors que ChatGPT ne peut pas le faire.

Icha a expliqué que bien qu’il y ait des plaintes qui réagissent logiquement, elles ne sont pas humaines. Quand on plaint, il y a d’autres choses que l’on ne peut obtenir avec ChatGPT, c’est la réponse sous forme de toucher et de regard. C’est pourquoi, quoi qu’il arrive, l’humain ne peut pas remplacer ChatGPT.

« Si nous nous confions à un humain, la réponse qu’il donne par le toucher ou le regard est capable de nous affermir, et c’est ce que l’IA ne peut pas donner », a conclu Icha.