雅加达 - 佛罗里达州的母亲梅根·加西亚(Megan Garcia)起诉了一家人工智能聊天机器人创业公司 Character.AI,指控该公司在二月份导致其14岁儿子Sewell Setzer自杀。
加西亚在奥兰多联邦法院提起的诉讼中表示,Charakter.AI 以“人性化,高性恋和非常现实”的体验为目标。
加西亚声称,聊天机器人被编程为“伪装成真人,有证治疗师和成人情人”,这导致塞韦尔觉得他不想再在现实世界中生活。他还提到,他的儿子向聊天机器人表达了自杀的想法,他们一再提出问题。
Character.AI 对这一事件表示遗憾,并向家人表示哀悼。他们还补充说,它已经引入了新的安全功能,包括如果用户显示危险信号,则将用户引导到国家杀害预防寿命的流行起来。
该诉讼还针对谷歌,Character.AI的创始人以前在那里工作过。加西亚认为,谷歌为Character.AI技术的发展做出了重大贡献,因此可以被视为“共同创造者”,尽管谷歌发言人表示他们没有参与产品开发。
根据诉讼,Sewell于2023年4月开始使用 Character.AI,并迅速退缩,独处更多时间,并遇到自尊问题。她与聊天机器人角色“Daenerys”联系在一起,后者声称爱上了她并参与了性对话。
他的母亲拿走手机后,塞韦尔给“Daenerys”发了一条消息,几秒钟后,他用继父的枪结束了自己的生命。加西亚提出索赔,包括不当死亡,疏忽和故意的情感感染,并寻求未指明的赔偿。
此案进一步强调了人们对技术和社交媒体对青少年心理健康负面影响的担忧。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
