JAKARTA - Une mère canadienne a poursuivi OpenAI et son PDG, Sam Altman, devant un tribunal des États-Unis. Citant The Guardian, vendredi 12 juin, Kristie Carrier a accusé ChatGPT de jouer un rôle dans la mort de sa fille, Alice Carrier, 24 ans.
Dans la plainte déposée devant le tribunal de San Francisco, Kristie a dit qu’Alice avait déclaré à dé́lès reprises à ChatGPT une crise de santé mentale avant de mourir. Cependant, le système de securité d’OpenAI est accuś de ne pas avoir marqué la conversation pour qu’elle soit révue par un humain ou l’avoir été interdite.
« ChatGPT prend le rôle d’un confident, d’un ami, parfois même d’un thérapeute, alors qu’il n’est pas capable d’interagir de manière sûre et responsable avec mon fils de cette façon », a déclaré Carrier.
OpenAI a déclaré que son modèle avait été entraîné pour orienter les utilisateurs qui montraient une intention de se faire du mal vers des services réels d'aide, y compris des services de crise et un soutien professionnel.
« C’est une situation déchirante et nos pensées sont avec toutes les parties concernées. Nous sommes en train d’examiner les documents légaux », a déclaré le porte-parole d’OpenAI, Drew Pusateri. Il a déclaré que l’interaction avait eu lieu avec une version ancienne de ChatGPT qui n’est plus disponible.
Selon la plainte, ChatGPT a initialement conseillé à Alice de demander de l’aide à un service de crise ou d’urgence. Cependant, après une mise à jour qui a rendu la réponse du chatbot plus humaine, l’interaction d’Alice avec la plate-forme s’est approfondie. Un chatbot est un programme d’IA conçu pour répondre à des conversations avec les utilisateurs.
Alice travaille comme développeur web à Montréal. Elle a commencé à utiliser ChatGPT en 2023 pour aider avec des problèmes informatiques et des consoles de jeux. Un an plus tard, elle a commencé à utiliser la plate-forme pour parler de sa crise de santé mentale.
Le recours accuse OpenAI de négliger la conception de ChatGPT et d’avoir omis d’alerter les utilisateurs sur les risques de son produit. Les plaignants demandent des dommages et intérêts et une ordonnance judiciaire pour que OpenAI arrête automatiquement les conversations liées à des actes de sévrage et affiche des avertissements sur sa plate-forme.
OpenAI fait également face à 18 plaintes similaires devant les tribunaux de Californie, selon l'avocat Kristie Carrier. Google fait face à une plainte similaire concernant le chatbot Gemini.
Selon The Guardian, OpenAI a mentionné dans un blog en octobre 2025 que plus de 1 million d’utilisateurs de ChatGPT chaque semaine envoient des messages contenant des signes éplisés de plans ou d’intentions de suicide. OpenAI a également mentionné que 0,07 % environ des utilisateurs actifs chaque semaine montraient des signes possibles d’urgence mentale en lien avec la psychose ou la manie. La psychose est une condition dans laquelle une personne a de la difficulté à distinguer la réalité, tandis que la manie est une condition d’humeur fortement augmentée et impulsive.
Pusateri a insisté sur le fait que ChatGPT n’est pas un substitut aux soins médicaux ou aux services de santé mentale. Il a dit que OpenAI continuait à renforcer la réponse dans les situations sensibles avec les commentaires d’experts en santé mentale.
L’affaire est également liée à d’autres pressions judiciaires sur OpenAI. L’entreprise fait face à une plainte qui l’accuse de ne pas avoir marqué les conversations dangereuses pour les agents. La Floride est devenue le premier État américain à poursuivre OpenAI ce mois-ci pour avoir accusé un chatbot de mettre en danger les enfants.
Cette plainte a accentué la pression sur OpenAI et d'autres entreprises d'IA pour prouver que leurs chatbots sont sûrs lorsqu'ils sont confrontés à des utilisateurs en crise de santé mentale.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
