JAKARTA - OpenAI est poursuivi par une femme qui a été victime de harcèlement et de harcèlement. La plainte a été déposée auprès de la Haute Cour de Californie car ChatGPT est censé renforcer les délires dangereux des agresseurs.
La victime, connue sous le nom de Jane Doe, a affirmé que OpenAI avait ignoré les trois alertes qu’elle avait envoyées à l’entreprise. Les alertes contenaient des informations sur les actions du coupable qui menaçaient la victime.
L'auteur est un entrepreneur de 53 ans qui croit avoir trouvé un remède à l'apnée du sommeil grâce à une conversation intense avec ChatGPT. Quand sa delusion s'est aggravée, le modèle d'intelligence artificielle (IA) a en fait soutenu ses pensées.
ChatGPT a également mentionné qu’une « force majeure » surveillait les auteurs. En outre, OpenAI a réactiv́é le compte de l’auteur qui avait été auparavant déconnécté.
En fait, le compte du preneur a été marqué comme un compte treśment dangereux. Selon les déclarations de la victime, l’équipe de securité humaine d’OpenAI a rétabli le compte du preneur, bien que le compte contienne peut-être des preuves qu’il cible et sucére Doe.
« La communication de l’utilisateur fournit une notification claire qu’il souffre d’un trouble mental et que ChatGPT est un moteur de pensée délirante », a écrit la victime dans sa plainte, rapporte TechCrunch lundi 13 avril.
L'auteur a été arrêté pour avoir envoyé des menaces de bombe et attaqué avec des armes meurtrières en janvier dernier. Cependant, il a été déclaré inapte à être jugé et soigné dans un établissement psychiatrique.
OpenAI aurait refusé de fournir les logs de conversation complets des auteurs nécessaires aux fins de l’enquête. L’entreprise a seulement accepté de suspendre les comptes des utilisateurs.
Cette action a également été soulignée par Edelson PC, une firme juridique impliquée dans le cas d’Adam Raine, un adolescent qui s’est suicidé après avoir eu des conversations pendant des mois avec OpenAI.
« Dans chaque cas, OpenAI a choisi de dissimuler des informations importantes sur la sécurité du public, des victimes, des personnes activement menacées par ses produits », a déclaré Edelson. « Nous leur demandons, pour une fois, de faire ce qu'il faut. »
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
