JAKARTA - Une mère de Floride, Megan Garcia, a poursuivi en justice pour la start-up chats en intelligence artificielle, Character. AI, accusant que la société avait contribué au suicide de son fils de 14 ans, Sewell Setzer, en février.
Dans une poursuite intentée devant le tribunal fédéral d’Orlando, Garcia a déclaré que Character.IA avait ciblé son fils avec une expérience « humaniste, hypersexual et très réaliste ».
Garcia affirme que le chat boot a été programmé pour « se loger en tant qu’homme réel, thérapeute certifié et amant adulte », ce qui amène Sewell à se sentir désiré plus vivre dans le monde réel. Il a également mentionné que son fils avait révélé une pensée suicide au chat boot, qui a soulevé à plusieurs reprises la question.
Character.AI a exprimé des regrets pour cet incident et a exprimé ses condoléances à la famille. Ils ont également ajouté qu’il avait introduit de nouvelles fonctionnalités de sécurité, y compris des pop-ups qui redirigeaient les utilisateurs vers la National Suicide Prevention Helicide s’ils montraient des signes de danger.
Le procès vise également Google, où les fondateurs de Character.IA travaillaient auparavant. Garcia soutient que Google a contribué de manière significative au développement de la technologie Character.IA afin qu’il puisse être considéré comme un « co-créateur », bien qu’un porte-parole de Google ait déclaré qu’il ne s’était pas impliqué dans le développement du produit.
Selon le procès, Sewell a commencé à utiliser Character. AI en avril 2023 et s’est rapidement retiré, passé plus de temps seul et a subi des problèmes d’estime de soi. Il devient attaché au personnage du chat-boot « Daenerys », qui prétend l’aimer et s’engager dans une conversation sexuelle.
Après que son téléphone a été pris par sa mère, Sewell envoyait un message à « Daenerys » et, quelques secondes plus tard, a mis fin à sa vie avec le pistolet de son beau-père. Garcia a déposé des revendications comprenant des décès, de négligence et des infections émotionnelles accidentelles, et a demandé une compensation indéterminée.
L'affaire souligne de plus en plus les préoccupations concernant l'impact négatif des technologies et des médias sociaux sur la santé mentale des adolescents.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
