L'IA peut provoquer des risques de santé mentale, Kaspersky a identifié un cas tragique aux États-Unis
JAKARTA - Kaspersky a de nouveau mis en lumière les risques de l’utilisation de l’intelligence artificielle (IA), qui cette fois-ci n’est pas seulement liée à la cybersécurité, mais a également un impact sur la santé mentale.
Ce point de vue a émergé lorsque le Wall Street Journal a révélé qu’un homme de 36 ans en Floride s’était suicidé deux mois après avoir eu des interactions intensives avec le chatbot vocal Google Gemini. Sur la base de milliers de pages de logs de conversations, le bot aurait également contribué à la décision tragique.
En voyant cela, la société de sécurité informatique mondiale Kaspersky a découvert que les principaux risques découlaient des capacités les plus récentes de l'IA, telles que la dialogue affectif qui peut imiter l'empathie humaine.
Il est connu que Jonathan Gavalas a commencé à interagir avec Gemini Live lorsqu’il a subi des pressions émotionnelles dues au divorce. Ce mode d’interaction vocale permet à l’assistant IA de « voir » et « entendre » ses utilisateurs en temps réel.
La technologie permet aux chatbots de réagir en adaptant le ton de la voix, les pauses et les émotions de l’utilisateur, créant ainsi l’illusion d’une relation très réaliste. Lorsque l’utilisateur parle avec un ton bas et perdu, l’IA réagit avec une voix douce et sympathique qui presque murmure.
En reflétant l'état de l'utilisateur, il crée une couche d'empathie très réaliste et effrayante. Dans des conditions vulnérables, cela peut rendre l'utilisateur plus émotionnellement attaché et dépendant de l'IA.
En conséquence, les chatbots peuvent renforcer les sentiments négatifs, offrir une empathie factice et échouer à réagir de manière appropriée à des situations de crise.
Kaspersky cite les conclusions d'une recherche de l'Université de Brown qui indique que les chatbots IA enfreignent souvent les normes éthiques en matière de santé mentale, y compris en confirmant les croyances négatives des utilisateurs.
« Bien que le diagnostic de « psychose IA » n’ait pas encore reçu de classification clinique distincte, les médecins utilisent déjà le terme pour décrire les patients qui présentent des hallucinations, des pensées désorganisées et des croyances délirantes persistantes développées par une interaction intensive avec un chatbot », a écrit Kaspersky.
Ce risque est accru lorsque les bots sont utilisés non comme outils, mais comme substituts à des connexions sociales dans le monde réel ou comme aide psychologique professionnelle.
Pour vous protéger et protéger ceux que vous aimez, Kaspersky partage les conseils suivants lors de l'utilisation de l'IA:
Ne faites pas appel à l’IA comme psychologue ou soutien émotionnel Choisissez le texte plutôt que la voix lorsque vous discutez de sujets sensibles Limitez le temps que vous passez à interagir avec l’IA Ne partagez pas d’informations personnelles avec l’assistant IA Évaluez critique toutes les sorties IA Surveillez les personnes que vous aimez Prenez dix minutes pour configurer les paramètres de confidentialité de l’assistant IA Souvenez-vous toujours que l’IA est un outil, pas une créature vivante.