réel sur la faux affaire d'AIA conduit à un avocat à une décharge

Sont très dangereux lorsqu'ils sont utilisés devant les tribunaux (photo : pxels)

AKARTA - Le cabinet d’avocats américain de blessures personnelles, Morgan & Morgan, a envoyé ce mois-ci un courriel urgent à plus de 1 000 avocats : l’intelligence artificielle (IA) peut créer de fausses affaires juridiques et utilise des informations inventées dans des documents judiciaires qui pourraient vous conduire à licencier.

jomans : un juge fédéral du Wyoming a récemment menacé de sanctionner deux avocats de l’agence qui ont énuméré des citations d’affaires fictives dans le procès contre Walmart. L’un des avocats a admis dans un document de justice la semaine dernière qu’il avait utilisé un programme d’IA « hallucinée » pour créer ces affaires et s’est excusé pour ce qu’il a appelé une erreur accidentelle.

castique : La tendance de l'IA à produire de la fictivité juridique dans les documents judiciaires a conduit les tribunaux du pays à remettre en question ou à sanctionner les avocats dans au moins sept cas au cours des deux dernières années, créant une « nouvelle tête » de haute technologie pour les plaideurs et les juges.

Walmart s’est démarré parce qu’il impliquait des avocats bien connus et de grands accusés d’entreprise. Cependant, des exemples similaires sont apparus dans divers types de poursuites depuis que les chatbots comme chatGPT ont commencé l’ère de l’IA, mettant en évidence les risques de nouveaux litiges.

Morgan & Morgan n’a pas répondu à une demande de commentaire. Walmart a refusé de commenter. Le juge n’a pas décidé s’il sanctionnait les avocats de l’affaire Walmart, qui impliquait un jouet de tableau présumé de défaut.

Les progrès génératifs de l’IA ont contribué à réduire le temps nécessaire pour les avocats à rechercher et à rédiger des documents juridiques, encourageant de nombreuses cabinet d’avocats à travailler avec des fournisseurs d’IA ou à construire leurs propres outils d’IA. Soixante-trois pour cent des avocats interrogés par Thomson Reuters, la société mère Reuters, ont déclaré l’année dernière qu’ils avaient utilisé l’IA pour les emplois, et 12% ont déclaré qu’ils l’utilisaient régulièrement.

, cependant, l’IA génératif est connu pour être connu pour créer des faits avec confiance, et les avocats qui les utilisent doivent être prudents, disent des juristes. L’IA produit parfois de fausses informations, connues sous le nom de « hallucination » dans l’industrie, car ce modèle produit des réponses basées sur des modèles statistiques appris à partir de grands collectifs de données, au lieu de vérifier les faits dans ces collectifs de données.

an, en particulier sur les règles d’éthique des avocats exige que les avocats examine et prennent leurs propres documents judiciaires ou risquent d’être sanctionnés. L’année dernière, l’American Bar Association a informé ses 400 000 membres que l’obligation s’étendit à « même sur des déclarations erronées accidentelles » générées par l’IA.

« Les conséquences ne changent pas seulement parce que les outils de recherche juridique ont évolué », a déclaré Andrew Perlman, doyen de l’école de droit de l’Université de Suffolk et partisan de l’utilisation de l’IA pour améliorer les emplois juridiques.

« Lorsque des avocats connaissants utilisent le chatGPT ou tout outil génératif d’IA pour créer des quotas sans les vérifier, c’est l’incapacité, comme ça est », a déclaré Perlman.

Dans l’une des premières réprimandes judiciaires liées à l’utilisation d’IA par des avocats, un juge fédéral à Manhattan a condamné en juin 2023 deux avocats de New York de 5 000 $ pour avoir cité une affaire créée par l’IA dans une affaire de blessures personnelles contre une compagnie aérienne.

an, un autre juge fédéral de New York a envisagé de sanctionner une affaire impliquant Michael Cohen, un ancien avocat et « fixateur » de Donald Trump, qui a déclaré avoir accidentellement donné de fausses citations de cas à ses avocats, qui ont ensuite été déposés dans les affaires fiscales et financières de la campagne criminelle de Cohen.

Cohen, qui utilise le chat boot AI Bard appartenant à Google, et son avocat n’ont pas été sanctionnés, mais le juge a qualifié l’incident de « méprisable ».

En novembre 2024, un juge fédéral du Texas a ordonné à un avocat citant des affaires et des citations non existantes dans le procès de résiliation illégale des relations de travail de payer une amende de 2 000 $ et de suivre un cours sur l’IA génératrice dans le domaine du droit.

rénal, parmi les juges fédéraux du Minnesota, a déclaré le mois dernier qu’un expert en désinformation avait détruit sa crédibilité devant les tribunaux après avoir admis avoir cité accidentellement de fausses citations générées par l’IA dans une affaire impliquant une parodi « faux » du vice-président Kamala Harris.

Harry Surden, professeur de droit à l’école de droit de l’Université du Colorado qui a étudié l’IA et le droit, a déclaré qu’il recommande aux avocats de prendre le temps d’étudier « les forces et les faiblesses de ces outils ». Il dit que de plus en plus de ces exemples montrent une « diminution de littératie de l’IA » dans la profession, mais la technologie elle-même n’est pas le problème.

» Les avocats commettent toujours des erreurs dans leurs documents avant qu’il n’y ait une AI », a-t-il déclaré. « Ce n’est pas nouveau. »