ChatGPT mengutip kasus “tiruan” untuk dibawa ke pengadilan federal New York

Gedung Pengadilan Thurgood Marshall digambarkan di Manhattan, New York, 15 Oktober 2021.

Brendan McDiarmid | Reuters

Gugatan Roberto Matta terhadap Avianca Airlines tidak jauh berbeda dengan banyak tuntutan hukum cedera pribadi lainnya yang diajukan di pengadilan federal New York. Mata dan pengacaranya, Peter Loduca, menuduh bahwa Avianca menyebabkan cedera pada Mata ketika dia “ditabrak oleh gerobak logam” dalam penerbangan tujuan New York tahun 2019.

Avianca tergerak untuk membubarkan kasus tersebut. Pengacara Mata diharapkan menentang mosi tersebut dan mengutip berbagai keputusan hukum, seperti yang biasa terjadi dalam kontroversi di ruang sidang. Kemudian semuanya runtuh.

Pengacara Avianca mengatakan kepada pengadilan bahwa mereka tidak dapat menemukan banyak masalah hukum yang dikutip LoDuca dalam tanggapannya. Hakim Federal B. Kevin Castle meminta agar LoDuca memberikan salinan sembilan keputusan pengadilan yang tampaknya digunakan.

Sebagai tanggapan, LoDuca mengajukan teks lengkap dari delapan kasus pengadilan federal. Masalahnya semakin dalam, kata Castel, karena transkrip itu fiktif, mengutip apa yang tampak sebagai “keputusan pengadilan palsu dengan kutipan palsu dan kutipan internal palsu.”

Pelakunya, yang pada akhirnya akan muncul, adalah ChatGPT. Chatbot OpenAI yang terkenal memiliki “hallucinogenic” — istilah yang digunakan ketika sistem AI menciptakan informasi palsu — dan memuntahkan kasus dan argumen yang sepenuhnya fiksi. LoDuca dan pengacara lainnya, Stephen Schwartz, tampaknya telah menggunakan ChatGPT untuk membuat mosi dan teks hukum berikutnya.

Schwartz, seorang rekan di firma hukum Levidow, Levidow & Oberman, mengatakan kepada pengadilan bahwa dia adalah satu-satunya orang yang berurusan dengan ChatGPT, bahwa LoDuca “tidak memiliki peran dalam melakukan penelitian yang dipermasalahkan”, atau “pengetahuan tentang bagaimana pencarian itu dilakukan.” diadakan.”

Pengacara lawan dan hakim menyadari untuk pertama kalinya bahwa kasus tersebut tidak ada, memberikan kesempatan kepada pengacara yang terlibat untuk mengakui kesalahan.

Meskipun demikian, LoDuca dan perusahaannya tampaknya menggandakan ChatGPT, menggunakannya tidak hanya untuk setoran yang awalnya bermasalah tetapi juga untuk menghasilkan keputusan hukum yang salah ketika diminta untuk membuatnya. Sekarang, LoDuca dan Schwartz dapat menghadapi tindakan pengadilan, sebuah langkah yang bahkan dapat menyebabkan pencabutan keanggotaan.

Dan mosi pembela “penuh dengan kutipan kasus yang tidak ada,” menurut pengajuan pengadilan.

“Pengadilan memiliki keadaan yang belum pernah terjadi sebelumnya,” kata Castel. Sidang ditetapkan pada 8 Juni ketika LoDuca dan Schwartz akan dipanggil untuk menjelaskan diri mereka sendiri. Tidak ada pengacara yang menanggapi permintaan komentar CNBC.