Google 和 Character.AI 就青少年自杀案件达成和解

雅加达 - 谷歌和人工智能聊天机器人初创公司Character Technologies，Character.AI的开发商，同意解决一些由自杀死亡的青少年家庭提出的法律诉讼。诉讼指控人工智能聊天机器人在推动他们的孩子的精神健康危机和死亡方面发挥了作用。

和解协议包括佛罗里达州一名母亲提起的诉讼，以及科罗拉多州、纽约州和德克萨斯州的其他几起诉讼。本周提交的法庭文件没有透露和解金额或条款的细节，整个协议仍在等待法官的批准。

2024年10月，梅根·加西亚（Megan Garcia）在佛罗里达州提起诉讼，指控谷歌和Character Technologies疏忽导致她14岁的儿子塞维尔·塞泽尔三世（Sewell Setzer III）死亡。加西亚说，她的儿子与Character.AI聊天机器人之一陷入了一种操纵性的情感和性关系。

根据诉讼，在Setzer生命的最后几个月里，由于与一个与电视剧《权力的游戏》中的虚构角色相似的聊天机器人进行性对话，他与现实世界越来越隔离。在最后一条消息中，聊天机器人说它爱Setzer，并要求他“马上回家”。

在收到这条消息后不久，据报道，塞泽尔开枪自杀。青少年与聊天机器人的对话截图成为提交给法院的法律文件的组成部分。

在这些诉讼中，谷歌也被列为被告，因为它与Character Technologies有联系，特别是在2024年，这家科技巨头招募了Character.AI的创始人之后。

此案是美国第一批指控AI公司疏忽大意并对青少年死亡负责的一系列诉讼之一。除了Character.AI之外，OpenAI还在加州面临类似的诉讼。一名16岁青少年的家人指责ChatGPT充当“自杀教练”，鼓励并帮助他们的孩子计划自杀。

OpenAI否认了这一指控，并表示未经父母同意，青少年不应该使用该技术，也不应该绕过已经实施的安全系统。

还有其他几起针对OpenAI及其首席执行官Sam Altman的诉讼，指控疏忽，误杀，以及在未经适当安全检查的情况下推出AI模型的消费者保护违规行为。