AIによって作られた偽の事件は弁護士を石炭に充てる

ジャカルタ - 米国の怪我をした個人法務会社、モーガン&モーガンは今月、1,000人以上の弁護士に緊急の電子メールを送信しました:人工知能(AI)は虚偽の訴訟を起こし、あなたを解雇させる可能性のある法廷文書のででっち上げの情報を使用することができます。

ワイオミング州の連邦判事は最近、ウォルマートに対する訴訟で架空の事件の抜粋をリストアップした会社の2人の弁護士を制裁すると脅した。弁護士の一人は先週の法廷文書で、彼が「幻覚」されたAIプログラムを使用して事件を作成したことを認め、彼が偶発的な不正と呼んだものについて謝罪した。

AIが法廷文書で法的な架空のものを作成する傾向は、過去2年間で少なくとも7件の事件で弁護士に疑問を呈または制裁するよう全国の裁判所に促し、訴訟当事者と裁判官にハイテク「新しい頭痛」を生み出しました。

ウォルマートの事件は、有名な法律事務所と大企業被告が関与しているため、際立っています。しかし、ChatGPTなどのチャットボットがAI時代を開始して以来、さまざまな種類の訴訟でも同様の例が浮上しており、新たな訴訟のリスクを浮き彫りにしています。

Morgan & Morganの広報担当者は、コメントの要請に応じなかった。ウォルマートはコメントを控えた。裁判官は、欠陥のあるホバーボードのおもちゃの疑いを含むウォルマート事件で弁護士を制裁するかどうかについてまだ決定していません。

ジェネレーティブAIの進歩により、弁護士が法的文書を調査および起草するのにかかる時間が短縮され、多くの法律事務所がAIベンダーと協力したり、独自のAIツールを構築したりするようになりました。ロイターの親会社であるトムソン・ロイターが昨年調査した弁護士の63.5%が、AIを仕事に利用していると答え、12%が定期的にAIを使用していると答えた。

しかし、ジェネレーティブAIは自信を持って事実を生み出すことが知られており、それを使用する弁護士は注意しなければならない、と法律専門家は言う。AIは、業界で「幻覚」として知られる誤った情報を生成することがあり、これらのモデルは、そのようなデータセット内の事実を検証することによってではなく、大規模なデータセットから学んだ統計的パターンに基づいて応答を生成する。

弁護士の倫理規則では、弁護士が裁判所の文書を審査し、責任を負うか、制裁の危険にさらされることが義務付けられています。昨年、米国バー協会は40万人のメンバーに、義務はAIを介して生じた「偶発的な虚偽の陳述さえも」にまで及ぶと通知しました。

「法学研究ツールが進化したからといって、その結果は変わるわけではありません」と、サフォーク大学ロースクールの学部長であり、法律業務を改善するためのAIの使用を支持するアンドリュー・パーマンは述べています。

「弁護士がChatGPTまたは任意の生成AIツールを使用して、それを検査せずに引用を行うために逮捕されたとき、それは無能で、それほど単純でした」とパールマンは述べた。

弁護士によるAIの使用に関する最も初期の裁判所の叱責の1つで、2023年6月にマンハッタンの連邦裁判官は、航空会社に対する個人的な負傷事件でAIが作成した事件を引用したとして、2人のニューヨーク弁護士に5,000米ドル(8,160万ルピア)の罰金を科しました。

別のニューヨーク連邦判事は昨年、元弁護士で「公証人」のドナルド・トランプであるマイケル・コーエンが関与する事件を制裁することを検討し、後にコーエン犯罪キャンペーンの税務および財務訴訟で提出された彼の弁護士に誤って虚偽の事件の引用をしたと述べた。

GoogleのAIバーストチャットボットを使用したコーエンと彼の弁護士は認可されなかったが、裁判官はこの事件を「恥ずべき」と呼んだ。

2024年11月、テキサス州連邦判事は、不法解雇訴訟に存在しない訴訟と引用を引用した弁護士に、2,000米ドル(3,200万ルピア)の罰金を支払い、法曹界で一般AIに関するコースを受講するよう命じました。

ミネソタ州の連邦判事は先月、誤った情報の専門家が、カマラ・ハリス副大統領の「ディープフェイク」パロディを含む事件でAIが生成した虚偽の引用を誤って引用したことを認めた後、法廷での彼の信頼性を損なったと述べた。

コロラド大学のAIと法律を研究するロースクールのロースクールのハリー・サーデン教授は、弁護士に「ツールの長所と短所」を研究するために時間をかけることを勧めていると述べた。彼は、これらのますます多くの例は職業における「AIリテラシーの欠如」を示唆しているが、技術自体は問題ではないと述べた。

「弁護士は、AIが存在する前に、常に文書に間違いを犯します」と彼は言いました。「これは新しいことではありません。