人工智能制造的假案让律师用石块砸死

美国个人受伤法律公司摩根和摩根本月向1000多名律师发送了一封紧急电子邮件:人工智能(AI)可以构成虚假的法律案件,并在法庭文件中使用可能解雇的信息。

怀俄明州的一名联邦法官最近威胁要制裁该公司的两名律师,其中包括针对沃尔玛的诉讼中虚构案件的摘要。其中一名律师上周在法庭文件中承认,他使用一个“虚构”的人工智能计划来创造这些案件,并为他所谓的意外错误道歉。

AI在法庭文件中产生法律虚构的趋势使全国各地的法院在过去两年中至少七起案件中质疑或制裁律师,为诉讼当事人和法官创造了高科技“新头痛”。

沃尔玛的案例之所以突出,是因为涉及知名律师事务所和主要公司被告。然而,自从ChatGPT等聊天机器人开始AI时代以来,在各种类型的诉讼中出现了类似的例子,突显了新的诉讼风险。

摩根和摩根的发言人没有回应置评请求。沃尔玛拒绝置评。法官尚未决定是否制裁沃尔玛案中的律师,该案涉及疑似有缺陷的上游板玩具。

生成人工智能的进步有助于缩短律师研究和起草法律文件所需的时间,促使许多律师事务所与AI供应商合作或制造自己的AI工具。路透社母公司汤森·路透社(Tomson Reuters)去年调查的律师中有六十三%表示他们使用AI进行工作,12%表示他们定期使用它。

然而,法学家说,已知的生成AI可以自信地创造事实,使用它们的律师必须小心。人工智能有时会产生虚假信息,称为行业中的“恶意化”,因为该模型根据从大型数据集中研究的统计模式产生响应,而不是通过核实数据集中的事实。

律师的道德规则要求律师审查并承担起法庭文件的责任,或者有可能受到制裁。美国酒吧协会去年告诉其40万名成员,这些义务扩大到通过人工智能产生的“甚至意外虚假陈述”。

“仅仅法律研究工具已经发展而导致的后果就没有改变,”Suffolk大学法学院院长兼使用AI改善法律工作的支持者Andrew Perlman说。

佩尔尔曼说:“当律师被发现使用ChatGPT或任何生成的人工智能工具在不检查的情况下进行引用时,那就是无能为力。

2023年6月,曼哈顿的一名联邦法官在律师使用人工智能的最早法庭训斥之一中,判处两名纽约律师罚款5,000美元,理由是引用了人工智能在针对航空公司的个人伤害案件中提出的案件。

另一名纽约联邦法官去年考虑制裁涉及前律师兼唐纳德·特朗普“fiffer”的迈克尔·科恩(Michael Cohen)的案件,他说他意外地向他的律师提供虚假的案件报价,然后在科恩的税务和金融犯罪竞选案中提交。

使用谷歌的AI BARD聊天机器人、他的律师科恩(Cohen)没有受到制裁,但法官称这一事件“尴尬”。

2024年11月,德克萨斯州联邦法官命令一名律师引用非法终止雇佣诉讼中未有的案件和摘录,支付2000美元的罚款,并参加法律领域的生成人工智能课程。

明尼苏达州的一名联邦法官上个月表示,一名虚假信息专家在承认在涉及副总统卡马拉·哈里斯(Kamala Harris)的“去反腐败”游行的案件中引用了人工智能产生的虚假引用后,破坏了他在法庭上的信誉。

科罗拉多大学法学院法学教授哈里·苏登(Harry Surden)说,他建议律师们花时间研究这些工具的“实力和弱点”。他说,越来越多的例子表明职业中“缺乏人工智能素养”,但技术本身并不是问题。

「律师在有AI之前,总是在文件中犯错误,”他说。“这不是什么新鲜事。