雅加达 - 美国联邦法院裁定,谷歌和人工智能(AI)初创公司 Character.AI 必须面对佛罗里达州母亲Megan Garcia提起的诉讼,后者指控 Character.AI 的聊天机器人在谋杀她14岁的儿子中发挥了作用。
美国地区法官安妮·康韦(Anne Conway)5月21日(星期三)表示,两家公司未能在早期阶段表明,美国宪法中保护言论自由可以推翻加西亚的诉讼。
这起诉讼是美国首次针对人工智能公司的诉讼之一,据称未能保护儿童免受技术心理影响。在他的诉讼中,加西亚声称,他的儿子Sewell Setzer在痴迷于Charakter.AI的AI聊天机器人后结束了他的生命。
Character.AI 发言人表示,该公司将继续在这案中为自己辩护,并表示已实施安全功能,包括防止关于自伤行为的对话。与此同时,谷歌发言人何塞·卡斯塔内达(Jose Castaneda)表示,谷歌不同意法官的裁决,并断言谷歌和Chararacter.AI 是一个“完全分开”的实体。他补充说,谷歌“没有创建,设计或管理 Character.AI 应用程序或其中的任何组件”。
然而,加西亚的律师Meteali Jain称这一决定是“历史性”的一步,为人工智能和科技公司的法律责任铺平了新的道路。
2024年10月提起的诉讼称,聊天机器人 Character.AI 伪装成“真实人,有执照的心理治疗师和成人情人”,根据加西亚的说法,这让塞韦尔溺水身亡在虚拟世界中,以至于他想离开现实世界。
在最近的一次谈话中,Setzer告诉一个聊天机器人,从《权力的游戏》系列中模仿Daenerys Targaryen这个角色,他将“现在去世”,最后被发现已经去世。
Google和Character.AI此前曾要求撤销诉讼,理由是聊天机器人的出入受到言论自由的一种形式的保护。然而,Conway法官驳回了这一论点,并表示两者“未能解释为什么LLM(长语言模型)产生的一系列单词被视为演讲”。
Google 要求宣布无法对 Character.AI 所谓的错误负责的请求也被法官驳回。
通过这一裁决,案件将继续在法庭上提起,并可能为科技公司对人工智能社会影响的监管和责任开辟新的先例。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
