Google和Character.AI 面临自杀受害者母亲的诉讼,技术的心理影响。

雅加达 - 美国联邦法院裁定,谷歌和人工智能(AI)初创公司 Character.AI 必须面对佛罗里达州母亲Megan Garcia提起的诉讼,后者指控 Character.AI 的聊天机器人在谋杀她14岁的儿子中发挥了作用。

美国地区法官安妮·康韦(Anne Conway)5月21日(星期三)表示,两家公司未能在早期阶段表明,美国宪法中保护言论自由可以推翻加西亚的诉讼。

这起诉讼是美国首次针对人工智能公司的诉讼之一,据称未能保护儿童免受技术心理影响。在他的诉讼中,加西亚声称,他的儿子Sewell Setzer在痴迷于Charakter.AI的AI聊天机器人后结束了他的生命。

Character.AI 发言人表示,该公司将继续在这案中为自己辩护,并表示已实施安全功能,包括防止关于自伤行为的对话。与此同时,谷歌发言人何塞·卡斯塔内达(Jose Castaneda)表示,谷歌不同意法官的裁决,并断言谷歌和Chararacter.AI 是一个“完全分开”的实体。他补充说,谷歌“没有创建,设计或管理 Character.AI 应用程序或其中的任何组件”。

然而,加西亚的律师Meteali Jain称这一决定是“历史性”的一步,为人工智能和科技公司的法律责任铺平了新的道路。

2024年10月提起的诉讼称,聊天机器人 Character.AI 伪装成“真实人,有执照的心理治疗师和成人情人”,根据加西亚的说法,这让塞韦尔溺水身亡在虚拟世界中,以至于他想离开现实世界。

在最近的一次谈话中,Setzer告诉一个聊天机器人,从《权力的游戏》系列中模仿Daenerys Targaryen这个角色,他将“现在去世”,最后被发现已经去世。

Google和Character.AI此前曾要求撤销诉讼,理由是聊天机器人的出入受到言论自由的一种形式的保护。然而,Conway法官驳回了这一论点,并表示两者“未能解释为什么LLM(长语言模型)产生的一系列单词被视为演讲”。

Google 要求宣布无法对 Character.AI 所谓的错误负责的请求也被法官驳回。

通过这一裁决,案件将继续在法庭上提起,并可能为科技公司对人工智能社会影响的监管和责任开辟新的先例。