Waktu.news | Beberapa pengacara pasti tidak akan gegabah membiarkan AI membuat argumen mereka, tetapi satu pengacara sudah melakukannya, dan Hakim Brantley Starr sedang mengambil langkah-langkah untuk memastikan kekacauan seperti itu tidak terulang di pengadilannya.
Hakim federal Texas ini menambahkan persyaratan bahwa setiap pengacara yang muncul di pengadilannya harus menyatakan bahwa “tidak ada bagian dari penulisan yang disusun oleh kecerdasan buatan generatif,” atau jika ada, harus diperiksa “oleh manusia.”
Minggu lalu, pengacara Steven Schwartz membiarkan ChatGPT “melengkapi” penelitian hukumnya dalam penyerahan federal terbaru, memberinya enam kasus dan preseden yang relevan – semuanya sepenuhnya dibuat-buat oleh model bahasa tersebut. Sekarang dia “sangat menyesal” telah melakukannya, dan meskipun liputan nasional atas kesalahan ini mungkin membuat pengacara lain yang memikirkan untuk mencobanya berpikir ulang, Hakim Starr tidak mengambil risiko apapun.
Di situs federal untuk Distrik Utara Texas, Starr, seperti hakim-hakim lainnya, memiliki kesempatan untuk menetapkan aturan khusus untuk pengadilannya. Dan baru-baru ini ditambahkan (meskipun tidak jelas apakah ini sebagai tanggapan terhadap penyerahan yang disebutkan sebelumnya) adalah “Sertifikasi Wajib Mengenai Kecerdasan Buatan Generatif.” Eugene Volokh pertama kali melaporkan berita ini.
Semua pengacara yang muncul di hadapan Pengadilan harus mengajukan sertifikat di berkas pengadilan yang menyatakan bahwa tidak ada bagian dari penyerahan yang disusun oleh kecerdasan buatan generatif (seperti ChatGPT, Harvey.AI, atau Google Bard) atau bahwa setiap bahasa yang disusun oleh kecerdasan buatan generatif diperiksa keakuratannya menggunakan laporan cetak atau pangkalan data hukum tradisional oleh manusia.
Ada formulir yang harus ditandatangani oleh para pengacara, yang mencatat bahwa “kutipan, referensi, klaim yang dirangkum, dan analisis hukum” semuanya tercakup dalam larangan ini. Karena kemampuan merangkum adalah salah satu kekuatan AI, dan menemukan serta merangkum preseden atau kasus sebelumnya adalah sesuatu yang diiklankan sebagai potensi membantu dalam pekerjaan hukum, ini mungkin akan sering digunakan lebih sering dari yang diperkirakan.
Siapa pun yang menyusun memorandum tentang masalah ini di kantor Hakim Starr memiliki pemahaman yang baik dan meyakinkan tentang keperluan ini (pemisahan baris ditambahkan untuk keterbacaan):
Platform-platform ini sangat kuat dan memiliki banyak kegunaan dalam hukum: formulir perceraian, permintaan penemuan fakta, saran kesalahan dalam dokumen, pertanyaan yang mungkin diajukan dalam argumen lisan. Namun, penulisan hukum bukanlah salah satunya. Ini adalah alasannya.
Platform-platform ini dalam keadaan saat ini rentan terhadap halusinasi dan bias. Dalam hal halusinasi, mereka membuat hal-hal yang tidak benar—termasuk kutipan dan referensi. Masalah lain adalah keandalan atau bias. Meskipun pengacara bersumpah untuk melupakan prasangka, bias pribadi, dan keyakinan mereka untuk dengan setia menegakkan hukum dan mewakili klien mereka, kecerdasan buatan generatif adalah produk dari pemrograman yang diciptakan oleh manusia yang tidak perlu bersumpah seperti itu.
Oleh karena itu, sistem-sistem ini tidak memiliki kewajiban terhadap klien mana pun, aturan hukum, atau hukum dan Konstitusi Amerika Serikat (atau, seperti yang telah disebutkan sebelumnya, kebenaran). Tidak terikat oleh rasa kewajiban, kehormatan, atau keadilan, program-program tersebut bertindak sesuai dengan kode komputer daripada keyakinan, berdasarkan pemrograman daripada prinsip. Pihak mana pun yang percaya bahwa platform tersebut memiliki akurasi dan keandalan yang diperlukan untuk penulisan hukum dapat mengajukan permohonan izin dan menjelaskan alasannya.
Dengan kata lain, siapkan diri Anda untuk membenarkan diri.
Meskipun ini hanya satu hakim di satu pengadilan, tidak mengherankan jika yang lain mengadopsi aturan ini sebagai milik mereka sendiri. Seperti yang dikatakan oleh pengadilan, teknologi ini merupakan alat yang kuat dan berpotensi membantu, tetapi penggunaannya setidaknya harus secara jelas dinyatakan dan diperiksa keakuratannya. (red)
- Pemuda Milenial Mitra Mandiri Sejahtera (M3S) Center, Resmi Deklarasi
- Smart Provinsi Percepatan dari Gerakan Menuju Kota Cerdas