Kasus Palsu Buatan AI Bikin Pengacara Terkena Batunya

JAKARTA - Firma hukum personal injury AS, Morgan & Morgan, mengirimkan email mendesak bulan ini kepada lebih dari 1.000 pengacaranya: Kecerdasan buatan (AI) dapat menciptakan kasus hukum palsu, dan menggunakan informasi yang dibuat-buat dalam dokumen pengadilan yang dapat membuat Anda dipecat.

Seorang hakim federal di Wyoming baru-baru ini mengancam akan memberikan sanksi kepada dua pengacara di firma tersebut yang mencantumkan kutipan kasus fiktif dalam gugatan terhadap Walmart. Salah satu pengacara mengakui dalam dokumen pengadilan pekan lalu bahwa ia menggunakan program AI yang "berhalusinasi" menciptakan kasus-kasus tersebut dan meminta maaf atas apa yang disebutnya sebagai kesalahan yang tidak disengaja.

Kecenderungan AI untuk menghasilkan fiksi hukum dalam dokumen pengadilan telah membuat pengadilan di seluruh negeri mempertanyakan atau memberikan sanksi kepada pengacara dalam setidaknya tujuh kasus selama dua tahun terakhir, menciptakan "sakit kepala baru" berteknologi tinggi bagi para pihak yang berperkara dan hakim.

Kasus Walmart menonjol karena melibatkan firma hukum ternama dan terdakwa korporat besar. Namun, contoh serupa telah muncul dalam berbagai jenis gugatan sejak chatbot seperti ChatGPT memulai era AI, menyoroti risiko litigasi baru.

Juru bicara Morgan & Morgan tidak menanggapi permintaan komentar. Walmart menolak berkomentar. Hakim belum memutuskan apakah akan memberikan sanksi kepada pengacara dalam kasus Walmart, yang melibatkan mainan hoverboard yang diduga cacat.

Kemajuan dalam AI generatif membantu mengurangi waktu yang dibutuhkan pengacara untuk meneliti dan menyusun dokumen hukum, mendorong banyak firma hukum untuk bekerja sama dengan vendor AI atau membangun alat AI mereka sendiri. Enam puluh tiga persen pengacara yang disurvei oleh Thomson Reuters, perusahaan induk Reuters, tahun lalu mengatakan mereka telah menggunakan AI untuk pekerjaan, dan 12% mengatakan mereka menggunakannya secara teratur.

Namun, AI generatif dikenal dapat dengan percaya diri menciptakan fakta, dan pengacara yang menggunakannya harus berhati-hati, kata para ahli hukum. AI terkadang menghasilkan informasi palsu, yang dikenal sebagai "halusinasi" dalam industri, karena model ini menghasilkan respons berdasarkan pola statistik yang dipelajari dari kumpulan data besar, bukan dengan memverifikasi fakta dalam kumpulan data tersebut.

Aturan etika pengacara mewajibkan pengacara untuk memeriksa dan bertanggung jawab atas dokumen pengadilan mereka atau berisiko dikenai sanksi. American Bar Association tahun lalu memberitahu 400.000 anggotanya bahwa kewajiban tersebut meluas hingga "bahkan pernyataan keliru yang tidak disengaja" yang dihasilkan melalui AI.

"Konsekuensinya tidak berubah hanya karena alat penelitian hukum telah berkembang," kata Andrew Perlman, dekan sekolah hukum Suffolk University dan pendukung penggunaan AI untuk meningkatkan pekerjaan hukum.

"Ketika pengacara ketahuan menggunakan ChatGPT atau alat AI generatif apa pun untuk membuat kutipan tanpa memeriksanya, itu adalah ketidakmampuan, sesederhana itu," kata Perlman.

Dalam salah satu teguran pengadilan paling awal terkait penggunaan AI oleh pengacara, seorang hakim federal di Manhattan pada Juni 2023 mendenda dua pengacara New York sebesar 5.000 dolar AS (Rp81,6 juta)  karena mengutip kasus yang diciptakan oleh AI dalam kasus personal injury melawan maskapai penerbangan.

Hakim federal New York lainnya tahun lalu mempertimbangkan untuk memberikan sanksi dalam kasus yang melibatkan Michael Cohen, mantan pengacara dan "fixer" Donald Trump, yang mengatakan ia secara tidak sengaja memberikan kutipan kasus palsu kepada pengacaranya, yang kemudian diajukan dalam kasus pajak dan keuangan kampanye kriminal Cohen.

Cohen, yang menggunakan chatbot AI Bard milik Google, dan pengacaranya tidak dikenai sanksi, tetapi hakim menyebut kejadian itu "memalukan."

Pada November 2024, seorang hakim federal Texas memerintahkan seorang pengacara yang mengutip kasus dan kutipan yang tidak ada dalam gugatan pemutusan hubungan kerja secara tidak sah untuk membayar denda 2.000 dolar AS (Rp32 juta) dan mengikuti kursus tentang AI generatif dalam bidang hukum.

Seorang hakim federal di Minnesota bulan lalu mengatakan bahwa seorang ahli misinformasi telah menghancurkan kredibilitasnya di pengadilan setelah ia mengakui secara tidak sengaja mengutip kutipan palsu yang dihasilkan AI dalam kasus yang melibatkan parodi "deepfake" Wakil Presiden Kamala Harris.

Harry Surden, profesor hukum di sekolah hukum Universitas Colorado yang mempelajari AI dan hukum, mengatakan ia merekomendasikan pengacara meluangkan waktu untuk mempelajari "kekuatan dan kelemahan alat-alat tersebut." Ia mengatakan contoh-contoh yang semakin banyak ini menunjukkan "kurangnya literasi AI" dalam profesi, tetapi teknologi itu sendiri bukanlah masalahnya.

"Pengacara selalu membuat kesalahan dalam dokumen mereka sebelum ada AI," katanya. "Ini bukan hal baru."