Setiap beberapa minggu, sepertinya ada tajuk baru tentang a pengacara Masuk masalah untuk mengirimkan pengajuan yang berisi, dalam kata-kata seorang hakim, “penelitian yang dihasilkan oleh ai-ai.” Rinciannya bervariasi, tetapi garis besarnya sama: seorang pengacara beralih ke model bahasa besar (LLM) seperti chatgpt untuk membantu mereka dengan penelitian hukum (atau lebih buruk lagi, menulis), LLM memperhalus kasus yang tidak ada, dan pengacara tidak ada yang lebih bijak sampai hakim atau penasihat yang berlawanan menunjukkan kesalahan mereka. Dalam beberapa kasus, termasuk gugatan penerbangan dari tahun 2023, pengacara harus membayar denda untuk mengirimkan pengajuan dengan halusinasi yang dihasilkan AI. Jadi mengapa mereka tidak berhenti?
Jawabannya sebagian besar bermuara pada crunches, dan cara AI merayap ke hampir setiap profesi. Basis data penelitian hukum seperti LexisNexis dan Westlaw memiliki integrasi AI sekarang. Untuk pengacara yang menyulap beban kasus besar, AI bisa tampak seperti asisten yang sangat efisien. Sebagian besar pengacara tidak perlu menggunakan chatgpt untuk menulis pengajuan mereka, tetapi mereka semakin menggunakannya dan LLM lain untuk penelitian. Namun banyak dari pengacara ini, seperti banyak dari publik, tidak mengerti persis apa LLMS atau bagaimana mereka bekerja. Seorang pengacara yang dulu sanksi Pada tahun 2023 mengatakan dia pikir chatgpt adalah “mesin pencari super.” Butuh pengajuan pengarsipan dengan kutipan palsu untuk mengungkapkan bahwa itu lebih seperti generator frase acak-yang dapat memberi Anda informasi yang benar atau omong kosong yang diutarakan dengan meyakinkan.
Andrew Perlman, dekan Sekolah Hukum Universitas Suffolk, berpendapat banyak pengacara menggunakan alat AI tanpa insiden, dan mereka yang tertangkap dengan kutipan palsu adalah outlier. “Saya pikir apa yang kita lihat sekarang – meskipun masalah halusinasi ini nyata, dan pengacara harus menganggapnya sangat serius dan berhati -hati tentang hal itu – tidak berarti bahwa alat -alat ini tidak memiliki manfaat besar dan penggunaan kasus untuk pengiriman layanan hukum,” kata Perlman. Basis data hukum dan sistem penelitian seperti Westlaw menggabungkan layanan AI.
Faktanya, 63 persen pengacara Disurvei oleh Thomson Reuters Pada tahun 2024 mengatakan mereka telah menggunakan AI di masa lalu, dan 12 persen mengatakan mereka menggunakannya secara teratur. Responden mengatakan mereka menggunakan AI untuk menulis ringkasan hukum kasus dan untuk meneliti “hukum kasus, undang -undang, formulir atau bahasa sampel untuk pesanan.” Pengacara yang disurvei oleh Thomson Reuters melihatnya sebagai alat hemat waktu, dan setengah dari mereka yang disurvei mengatakan “mengeksplorasi potensi untuk mengimplementasikan AI” di tempat kerja adalah prioritas tertinggi mereka. “Peran pengacara yang baik adalah sebagai ‘penasihat tepercaya’ bukan sebagai produsen dokumen,” kata seorang responden.
Tetapi seperti yang ditunjukkan banyak contoh baru -baru ini, dokumen yang dihasilkan oleh AI tidak selalu akurat, dan dalam beberapa kasus tidak nyata sama sekali.
Dalam satu kasus profil tinggi baru-baru ini, pengacara untuk jurnalis Tim Burke, yang ditangkap karena menerbitkan rekaman Fox News yang tidak berputar pada tahun 2024, mengajukan mosi untuk memberhentikan kasus terhadapnya dengan alasan Amandemen Pertama. Setelah menemukan bahwa pengajuan termasuk “kesalahan penyajian yang signifikan dan kesalahan kutipan hukum kasus dan sejarah yang seharusnya terkait,” Hakim Kathryn Kimball Mizelle, dari Distrik Tengah Florida, memerintahkan mosi untuk dilanda catatan dari catatan kasus. Mizelle menemukan sembilan halusinasi dalam dokumen, Menurut Tampa Bay Times.
Mizelle akhirnya membiarkan pengacara Burke, Mark Rasch dan Michael Maddux, mengirimkan mosi baru. Dalam pengajuan terpisah yang menjelaskan kesalahan, Rasch menulis bahwa ia “memikul tanggung jawab tunggal dan eksklusif atas kesalahan ini.” Rasch mengatakan dia menggunakan Fitur “Penelitian Dalam” di Chatgpt Proyang The Verge sebelumnya telah diuji dengan hasil yang beragamserta fitur AI Westlaw.
Rasch tidak sendirian. Pengacara yang mewakili antropik baru -baru ini mengaku menggunakan Claude AI perusahaan untuk membantu menulis deklarasi saksi ahli yang diajukan sebagai bagian dari Gugatan pelanggaran hak cipta Dibawa melawan antropik oleh penerbit musik. Pengajuan itu termasuk kutipan dengan “judul yang tidak akurat dan penulis yang tidak akurat.” Desember lalu, pakar informasi yang salah Jeff Hancock mengakui bahwa dia menggunakan chatgpt Untuk membantu mengatur kutipan dalam deklarasi yang ia sampaikan untuk mendukung undang -undang Minnesota yang mengatur penggunaan Deepfake. Pengajuan Hancock termasuk “dua kesalahan kutipan, yang secara populer disebut sebagai ‘halusinasi,’” dan penulis yang salah untuk kutipan lain.
Dokumen -dokumen ini, pada kenyataannya, penting – setidaknya di mata hakim. Dalam kasus baru -baru ini, seorang hakim California memimpin kasus melawan State Farm Awalnya terombang -ambing oleh argumen secara singkat, hanya untuk menemukan bahwa hukum kasus yang dikutip sepenuhnya dibuat. “Saya membaca brief mereka, dibujuk (atau setidaknya tertarik) oleh pihak berwenang yang mereka kutip, dan mencari keputusan untuk mempelajari lebih lanjut tentang mereka – hanya untuk menemukan bahwa mereka tidak ada,” tulis Hakim Michael Wilner.
Perlman mengatakan ada beberapa cara yang kurang berisiko pengacara menggunakan AI generatif dalam pekerjaan mereka, termasuk menemukan informasi dalam tahap besar dokumen penemuan, meninjau brief atau pengajuan, dan melakukan brainstorming argumen yang mungkin atau kemungkinan pandangan yang berlawanan. “Saya pikir di hampir setiap tugas, ada cara di mana AI generatif dapat bermanfaat – bukan pengganti penilaian pengacara, bukan pengganti keahlian yang dibawa pengacara ke meja, tetapi untuk menambah apa yang dilakukan pengacara dan memungkinkan mereka melakukan pekerjaan mereka dengan lebih baik, lebih cepat, dan lebih murah,” kata Perlman.
Tetapi seperti siapa pun yang menggunakan alat AI, pengacara yang mengandalkan mereka untuk membantu dengan penelitian hukum dan menulis harus berhati -hati untuk memeriksa pekerjaan yang mereka hasilkan, kata Perlman. Bagian dari masalahnya adalah bahwa pengacara sering mendapati diri mereka kekurangan waktu – masalah yang menurutnya ada sebelum LLMS masuk ke dalam gambar. “Bahkan sebelum munculnya AI generatif, pengacara akan mengajukan dokumen dengan kutipan yang tidak benar -benar membahas masalah yang mereka klaim atasi,” kata Perlman. “Itu hanya jenis masalah yang berbeda. Kadang -kadang ketika pengacara dilarikan, mereka memasukkan kutipan, mereka tidak memeriksanya dengan benar; mereka tidak benar -benar melihat apakah kasusnya telah dibatalkan atau ditolak.” (Yang mengatakan, kasus -kasus itu setidaknya ada biasanya.)
Masalah lain yang lebih berbahaya adalah fakta bahwa pengacara – seperti orang lain yang menggunakan LLM untuk membantu penelitian dan penulisan – terlalu percaya pada apa yang dihasilkan AI. “Saya pikir banyak orang dibaring menjadi rasa nyaman dengan output, karena tampaknya pada pandangan pertama dibuat dengan sangat baik,” kata Perlman.
Alexander Kolodin, seorang pengacara pemilu dan perwakilan negara bagian Republik di Arizona, mengatakan ia memperlakukan chatgpt sebagai rekan tingkat junior. Dia juga menggunakan chatgpt untuk membantu menulis undang -undang. Pada tahun 2024, ia memasukkan teks AI sebagai bagian dari tagihan tentang Deepfake, memiliki LLM memberikan “definisi dasar” tentang apa Deepfakes itu dan kemudian “Saya, manusia, ditambahkan dalam perlindungan untuk hak asasi manusia, hal -hal seperti itu tidak termasuk komedi, sindiran, kritik, ekspresi artistik, hal -hal semacam itu,” kolodin, ”kolodin itu,” kolodin itu, ”kolodin,” kolodin, ”kolodin,” kolodin, ”kolodin,” kolodin, ”kolodin,” kolodin, ”kolodin,” kolodin, ”kolodin,” kolodin, ”kolodin,” kolodin, ”kolodin,” kolodin itu, ”kolodin diberi tahu Wali saat itu. Kolodin mengatakan dia “mungkin telah” membahas penggunaan chatgpt dengan cosponsor demokratis utama RUU itu tetapi sebaliknya ingin itu menjadi “telur Paskah” dalam RUU itu. RUU itu disahkan menjadi undang -undang.
Kolodin – siapa Sanksi oleh Arizona State Bar pada tahun 2020 Untuk keterlibatannya dalam tuntutan hukum yang menantang hasil pemilihan 2020 – juga menggunakan chatgpt untuk menulis draft amandemen pertama, dan diceritakan The Verge Dia menggunakannya untuk penelitian hukum juga. Untuk menghindari masalah halusinasi, katanya, dia hanya memeriksa kutipan untuk memastikan mereka nyata.
“Anda tidak hanya mengirim produk kerja associate junior tanpa memeriksa kutipan,” kata Kolodin. “Bukan hanya mesin yang berhalusinasi; seorang rekan junior bisa membaca case yang salah, itu tidak benar-benar mendukung proposisi yang dikutip, apa pun. Anda masih harus mengutipnya, tetapi Anda harus melakukannya dengan rekan, kecuali mereka cukup berpengalaman.”
Kolodin mengatakan dia menggunakan alat Pro “Deep Research” ChatGPT dan alat LexisNexis AI. Seperti Westlaw, LexisNexis adalah alat penelitian hukum yang terutama digunakan oleh pengacara. Kolodin mengatakan bahwa dalam pengalamannya, ia memiliki tingkat halusinasi yang lebih tinggi daripada chatgpt, yang katanya telah “turun secara substansial selama setahun terakhir.”
Penggunaan AI di antara pengacara telah menjadi begitu lazim sehingga pada tahun 2024, American Bar Association mengeluarkan panduan pertamanya tentang penggunaan LLMS dan alat AI lainnya.
Pengacara yang menggunakan alat AI “memiliki tugas kompetensi, termasuk mempertahankan kompetensi teknologi yang relevan, yang membutuhkan pemahaman tentang sifat yang berkembang” dari AI generatif, pendapat berbunyi. Bimbingan ini menyarankan pengacara untuk “memperoleh pemahaman umum tentang manfaat dan risiko alat GAI” yang mereka gunakan – atau, dengan kata lain, untuk tidak berasumsi bahwa LLM adalah “mesin pencari super.” Pengacara juga harus menimbang risiko kerahasiaan memasukkan informasi yang berkaitan dengan kasus mereka ke dalam LLM dan mempertimbangkan apakah akan memberi tahu klien mereka tentang penggunaan LLM dan alat AI lainnya, yang dinyatakan olehnya.
Perlman adalah bullish pada penggunaan AI pengacara. “Saya pikir AI generatif akan menjadi teknologi paling berdampak yang pernah dilihat oleh profesi hukum dan bahwa pengacara diharapkan untuk menggunakan alat -alat ini di masa depan,” katanya. “Saya pikir pada titik tertentu, kami akan berhenti mengkhawatirkan tentang kompetensi pengacara yang menggunakan alat -alat ini dan mulai mengkhawatirkan kompetensi pengacara yang tidak.”
Lainnya, termasuk salah satu hakim yang menyetujui pengacara karena mengajukan pengajuan yang penuh dengan halusinasi yang dihasilkan AI, lebih skeptis. “Bahkan dengan kemajuan terbaru,” tulis Wilner, “tidak ada pengacara yang cukup kompeten yang harus mengalahkan penelitian dan menulis ke teknologi ini-terutama tanpa upaya untuk memverifikasi keakuratan materi itu.”
