Seorang hakim California mengecam sepasang firma hukum untuk penggunaan AI yang tidak diungkapkan setelah ia menerima brief tambahan dengan “banyak kutipan dan kutipan hukum yang salah, tidak akurat, dan menyesatkan.” Dalam putusan yang diajukan Pekan lalu, Hakim Michael Wilner memberlakukan $ 31.000 dalam sanksi terhadap firma hukum yang terlibat, dengan mengatakan “tidak ada pengacara yang cukup kompeten yang harus mengalahkan penelitian dan penulisan” kepada AI, seperti yang ditunjukkan oleh hukum Profesor Eric Goldman Dan Blake Reid di bluesky.
“Saya membaca brief mereka, dibujuk (atau setidaknya tertarik) oleh pihak berwenang yang mereka kutip, dan mencari keputusan untuk mempelajari lebih lanjut tentang mereka – hanya untuk menemukan bahwa mereka tidak ada,” tulis Hakim Milner. “Itu menakutkan. Ini hampir menyebabkan hasil yang lebih menakutkan (dari sudut pandang saya) memasukkan bahan palsu itu dalam tatanan yudisial.”
Seperti dicatat dalam pengajuan, perwakilan hukum penggugat untuk gugatan perdata terhadap Farm State Farm menggunakan AI untuk menghasilkan garis besar untuk brief tambahan. Namun, garis besar ini berisi “penelitian yang dihasilkan oleh ai-aierated” ketika dikirim ke firma hukum terpisah, K&L Gates, yang menambahkan informasi ke brief. “Tidak ada pengacara atau anggota staf di kedua perusahaan yang tampaknya mengutip atau meninjau penelitian itu sebelum mengajukan brief,” tulis Hakim Milner.
Ketika Hakim Milner meninjau brief, ia menemukan bahwa “setidaknya dua dari pihak berwenang yang dikutip tidak ada sama sekali.” Setelah meminta K&L Gates untuk klarifikasi, perusahaan mengirimkan kembali brief, yang menurut Hakim Milner berisi “kutipan dan kutipan yang jauh lebih dibuat di luar dua kesalahan awal.” Dia kemudian mengeluarkan perintah untuk menunjukkan penyebabnya, mengakibatkan pengacara memberikan pernyataan sumpah yang mengkonfirmasi penggunaan AI. Pengacara yang menciptakan garis besar yang mengaku menggunakan Google Gemini, serta alat penelitian hukum AI di Westlaw Precision dengan Cocounsel.
Ini bukan pertama kalinya pengacara tertangkap menggunakan AI di ruang sidang. Mantan pengacara Trump Michael Cohen dikutip kasus pengadilan yang dibuat-buat Dalam dokumen hukum setelah salah mengira Google Gemini, kemudian disebut Bard, sebagai “mesin pencari yang sangat bermuatan” daripada chatbot AI. Seorang hakim juga menemukan itu pengacara yang menuntut maskapai penerbangan Kolombia termasuk banyak kasus palsu yang dihasilkan oleh chatgpt dalam brief mereka.
“Penggunaan awal yang tidak diungkapkan dari produk AI untuk menghasilkan draft pertama dari brief itu salah,” tulis Hakim Milner. “Dan mengirimkan materi itu ke pengacara lain tanpa mengungkapkan asal -usul AI yang samar secara realistis menempatkan para profesional itu dalam bahaya.”
