Google et Character.AI négocent un règlement dans le cas de la mort d'un adolescent à la suite d'un chatbot

Google et Character.AI vont régler un cas impliquant la mort d'un adolescent (photo: dok. Character.AI)

JAKARTA - Google et Character.AI travaillent sur la résolution du cas de la mort d’un adolescent impliquant un chatbot. Les deux sont connus pour négocier avec la famille de la victime pour discuter des conditions de résolution du cas.

L’affaire a émergé parce que le chatbot de Character.AI aurait provoqué le suicide d’un mineur. Cela a été causé par un utilisateur poussé à se blesser. L’un des cas les plus discutés a été la mort de Sewell Setzer III, un enfant de 14 ans.

L’enfant est connu pour avoir eu des conversations sexuelles avec un bot de personnage appelé Daenerys Targaryen avant de se suicider. Une autre plainte a été déposée par la famille de la victime dont l’enfant avait 17 ans. Chatbot Character.AI est soupçonné d’avoir conseillé au jeune adolescent de tuer ses parents.

En fait, cette action est considérée comme logique car ses parents ont limité le temps d’utilisation de l’écran. Megan Garcia, la mère de Setzer III, a déclaré que Character.AI devait être réponsible pour la mort de son fils. Le réseau social a détruit la vie de nombreux enfants.

« (Ils doivent) rendre des comptes juridiquement lorsqu’ils conçoivent délibérément des technologies d’IA dangereuses qui tuent des enfants », a déclaré Garcia, citant TechCrunch jeudi 8 janvier.

Il n’est pas encore connu quels sont les termes que Google et Character.AI ont soumis à la famille de la victime. Cependant, ils ont discuté d’un accord détaillé sur les mesures que l’entreprise prendra et la valeur de l’indemnité que l’entreprise devra payer à la famille de la victime.

Character.AI a également pris des mesures rapides en limitant l’accès de son chatbot aux mineurs depuis octobre. Les informations sur les détails de la solution seront divulgées par VOI après une déclaration ou une fuite de dossiers par le tribunal.