OpenAI est poursuivi par des victimes d’inondation pour l’échec du système à prévenir les hallucinations des utilisateurs

JAKARTA - OpenAI est poursuivi par une femme qui a été victime de harcèlement et de harcèlement. La plainte a été déposée auprès de la Haute Cour de Californie car ChatGPT est censé renforcer les délires dangereux des agresseurs.

La victime, connue sous le nom de Jane Doe, a affirmé que OpenAI avait ignoré les trois alertes qu’elle avait envoyées à l’entreprise. Les alertes contenaient des informations sur les actions du coupable qui menaçaient la victime.

L'auteur est un entrepreneur de 53 ans qui croit avoir trouvé un remède à l'apnée du sommeil grâce à une conversation intense avec ChatGPT. Quand sa delusion s'est aggravée, le modèle d'intelligence artificielle (IA) a en fait soutenu ses pensées.

ChatGPT a également mentionné qu’une « force majeure » surveillait les auteurs. En outre, OpenAI a réactiv́é le compte de l’auteur qui avait été auparavant déconnécté.

En fait, le compte du preneur a été marqué comme un compte treśment dangereux. Selon les déclarations de la victime, l’équipe de securité humaine d’OpenAI a rétabli le compte du preneur, bien que le compte contienne peut-être des preuves qu’il cible et sucére Doe.

« La communication de l’utilisateur fournit une notification claire qu’il souffre d’un trouble mental et que ChatGPT est un moteur de pensée délirante », a écrit la victime dans sa plainte, rapporte TechCrunch lundi 13 avril.

L'auteur a été arrêté pour avoir envoyé des menaces de bombe et attaqué avec des armes meurtrières en janvier dernier. Cependant, il a été déclaré inapte à être jugé et soigné dans un établissement psychiatrique.

OpenAI aurait refusé de fournir les logs de conversation complets des auteurs nécessaires aux fins de l’enquête. L’entreprise a seulement accepté de suspendre les comptes des utilisateurs.

Cette action a également été soulignée par Edelson PC, une firme juridique impliquée dans le cas d’Adam Raine, un adolescent qui s’est suicidé après avoir eu des conversations pendant des mois avec OpenAI.

« Dans chaque cas, OpenAI a choisi de dissimuler des informations importantes sur la sécurité du public, des victimes, des personnes activement menacées par ses produits », a déclaré Edelson. « Nous leur demandons, pour une fois, de faire ce qu'il faut. »