清一色財(cái)經(jīng)6月23日訊（編輯 牛占林）像ChatGPT這樣的生成式人工智能可以極大地提升人類的辦公效率，但其“胡編亂造”的能力也不容忽視。若平常使用時(shí)出現(xiàn)錯(cuò)誤，可能僅僅只是一個(gè)笑話，如“林黛玉倒拔垂楊柳、劉姥姥醉打蔣門(mén)神“，但若在關(guān)鍵領(lǐng)域或時(shí)刻出錯(cuò)，那結(jié)果可能就是災(zāi)難性的。

當(dāng)?shù)貢r(shí)間周四，美國(guó)紐約聯(lián)邦法官做出判決，Levidow, Levidow&Oberman律師事務(wù)所引用了ChatGPT撰寫(xiě)的一份由虛假案例引證的法庭簡(jiǎn)報(bào)，行為惡劣，對(duì)其處以罰款5000美元。

(相關(guān)資料圖)

（注：判決文書(shū)）

法官卡斯特(P. Kevin Castel)指出，該律師事務(wù)所的兩名律師有意識(shí)地避免表明這些引文是虛假的，并“向法庭做出誤導(dǎo)性陳述”。

Levidow, Levidow&Oberman隨后回應(yīng)稱，其律師“謙恭的”不同意惡意誤導(dǎo)方面的判決。“我們犯了一個(gè)善意的錯(cuò)誤，沒(méi)想到ChatGPT居然可以憑空捏造。”

憑空捏造

在3月份，律師彼得·洛杜卡(Peter LoDuca)和史蒂文·施瓦茨(Steven Schwartz)代表其客戶羅伯托·馬塔(Roberto Mata)起訴阿維安卡航空公司，提交了一份人工智能撰寫(xiě)的法律文書(shū)。

據(jù)悉，引用的虛假案例包括 "Varghese訴中國(guó)南方航空公司"、"馬丁內(nèi)斯訴達(dá)美航空公司 "和 "米勒訴聯(lián)合航空公司"等。但經(jīng)過(guò)仔細(xì)查證之后，卻根本找不到這些判決案例。

在事實(shí)面前，到了5月底，律師施瓦茨不得不承認(rèn)，他使用了ChatGPT來(lái)"補(bǔ)充 "他對(duì)該案件的研究。施瓦茨表示，他沒(méi)有意識(shí)到ChatGPT的內(nèi)容有可能是虛假的。

卡斯特指出，兩位律師“放棄了自己應(yīng)盡的責(zé)任”，且在提出對(duì)文書(shū)的質(zhì)疑之后，兩人“繼續(xù)堅(jiān)持虛假意見(jiàn)”。

卡斯特責(zé)令洛杜卡和施瓦茨以及他們的律師事務(wù)所Levidow, Levidow & Oberman分別支付5000美元的罰款，并且他們必須自己將判決結(jié)果通知那些認(rèn)為偽造了案例的法官。

法官卡斯特在曼哈頓聯(lián)邦地方法院的判決書(shū)中寫(xiě)道：“法院不會(huì)要求他們道歉，因?yàn)閺?qiáng)迫的道歉不是真誠(chéng)的道歉。任何道歉的決定都由當(dāng)事人決定。”

使用人工智能沒(méi)有不妥

周四當(dāng)天，法官在另一項(xiàng)命令中批準(zhǔn)了阿維安卡航空公司駁回訴訟的動(dòng)議。原告馬塔聲稱，在2019年8月，從薩爾瓦多飛往紐約的航班上他的膝蓋被一個(gè)金屬托盤(pán)撞到，因而嚴(yán)重受傷。

卡斯特認(rèn)為，馬塔的訴訟是在《蒙特利爾公約》規(guī)定的兩年訴訟窗口期滿后提起的，該窗口允許與國(guó)際航空旅行相關(guān)的法律索賠。

卡斯特表示，如果律師們“坦白”使用了人工智能撰寫(xiě)法律文書(shū)，可能就不會(huì)受到懲罰。

但在對(duì)文書(shū)提出質(zhì)疑后，兩位律師仍然極力辯護(hù)，對(duì)文書(shū)及其內(nèi)容做出了虛假和誤導(dǎo)性的陳述，表現(xiàn)出了“惡意”。

判決書(shū)中提到：“在研究和起草法庭文書(shū)時(shí)，優(yōu)秀的律師會(huì)適當(dāng)?shù)貜某跫?jí)律師、法學(xué)院學(xué)生、合同律師、法律百科全書(shū)、Westlaw和LexisNexis等數(shù)據(jù)庫(kù)中獲得幫助。”

卡斯特還寫(xiě)道：“技術(shù)進(jìn)步是司空見(jiàn)慣的，使用可靠的人工智能工具提供幫助并沒(méi)有本質(zhì)上的不妥。但現(xiàn)有規(guī)則對(duì)律師施加了把關(guān)作用，以確保他們提交的文書(shū)的準(zhǔn)確性。”