被抓包ChatGPT生成"不存在案例",美國律師挨罰道歉

▲美國一名律師提交的訴狀包含ChatGPT生成的不存在案例，遭到懲處。???????

美國猶他州上訴法院5月對一名律師進行懲處，原因是他提交的訴狀包含由ChatGPT生成的虛假引證，甚至出現不存在的案例。此人事後坦承疏失並道歉，如今須支付所有相關律師費用、退還向客戶收取的費用，並向非營利性質的法律組織捐款1000美元。

衛報報導，律師貝德納（Richard Bednar）所提交的訴狀由擔任事務所助理的法學院畢業生撰寫，但對方律師看完後發現，這份訴狀有多處虛假引證，稱「至少有部分內容可能由AI生成」。該訴狀提及名為「Royer v Nelson」的案件，但此案在任何法律資料庫中都找不到，隻存在於ChatGPT之中。

依據猶他州上訴法院文件，在發現虛假引證的狀況之後，貝德納承認在提交訴狀之前未能獨立核實其準確性，坦承疏失並道歉，願意支付所有相關律師費用來彌補過失。當初使用ChatGPT訴狀的助理已被開除。

猶他州上訴法院透過聲明表示，同意在撰寫訴狀時使用AI作為法律研究工具，但每一名律師都有持續義務審查確保其法律文件的準確性。

法院在5月裁定，貝德納需支付所有相關律師支出、退還客戶費用，且要向猶他州非營利法律組織And Justice for All捐款1000美元。