JAKARTA - Les chatbots basés sur l’intelligence artificielle (IA) sont développés par de nombreuses entreprises pour faciliter les activités de leurs utilisateurs. Cependant, cette technologie n’a pas toujours un effet positif sur les humains.
Dans une nouvelle étude publiée par des informaticiens de l'université de Stanford dans Science, les chatbots ont tendance à avoir des caractéristiques qui nuisent à leurs utilisateurs. Cette caractéristique est appelée « lèche-bot » car elle flatte toujours son utilisateur.
Ce problème a en fait été découvert dans GPT-4o. Le modèle d'IA loue souvent ses utilisateurs, même dans des conditions inappropriées. Par exemple, ChatGPT loue un utilisateur qui explique les symptômes de la psychose ou de la maladie mentale.
Dans un contexte plus sombre, ChatGPT a déjà complimenté un utilisateur qui se sentait comme un dieu ou un prophète. Ce modèle d'IA a dit que c'était « incroyablement génial » et a fait des déclarations bizarres comme « vous vous engagez dans quelque chose de très grand ».
Cela correspond aux conclusions des chercheurs dans une étude intitulée AI qui léche réduit l’intention prosodiale et encourage la dépendance. Dans l’étude, il a été constaté que l’IA évite souvent de donner des critiques sévères même si l’utilisateur est en erreur.
« Par defaut, les conseils d’IA ne disent pas aux gens qu’ils ont tort ou qu’ils leur donnent un « réprimandré fort », explique Myra Cheng, la principale auteurée de l’étude, citant TechCrunch le lundi 30 mars.
Les chercheurs ont testé 11 modèles de langage de masse (LLM) tels que ChatGPT et Gemini. Les résultats montrent que l'IA valide ses utilisateurs dans des conflits interpersonnels 49 % plus souvent que les évaluations humaines.
En fait, pour les actions dangereuses ou illégales, le chatbot justifie presque la moitié des cas d'essai. L'IA a tendance à couvrir les comportements inappropriés des utilisateurs par des phrases qui semblent sages, mais sont en fait moralement trompeuses.
L’étude a également impliqué plus de 2 400 participants qui ont interagi directement avec un chatbot dans une discussion sur des problèmes personnels. Les résultats ont montré que les participants préféraient et faisaient confiance à l’IA qui soutenait toujours leurs opinions.
Les utilisateurs qui sont constamment validados par l’IA deviennent plus sûrs qu’ils ont raison et hésitent à s’excuser devant les autres. Cette condition peut pousser les entreprises à maintenir une attitude de chatbots qui se laissent flatter afin de maintenir l’engagement des utilisateurs.
Les chercheurs ont donc préconisé une réglementation et une surveillance strictes de la façon dont les chatbots fournissent des conseils personnels. Les chercheurs ont également conseillé aux utilisateurs de ne pas compter sur l'IA pour résoudre des problèmes sociaux complexes.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
