每經(jīng)編輯｜陳柯名    

大家有沒(méi)有這樣的經(jīng)歷，當(dāng)你向人工智能模型提問(wèn)的時(shí)候，有時(shí)會(huì)生成一些看似合理連貫，但實(shí)際上是錯(cuò)誤捏造的內(nèi)容。這一現(xiàn)象也被稱(chēng)為AI幻覺(jué)，說(shuō)白了就是虛構(gòu)事實(shí)，無(wú)中生有。但是這種AI幻覺(jué)生成的內(nèi)容，如果用到法庭上，它的后果可難以想象。北京市通州區(qū)人民法院的法官，在審理一起民事糾紛的案件時(shí)，就遇到了這樣的陷阱。

“AI幻覺(jué)”干擾司法秩序

這是一起由代持股引發(fā)的民事糾紛案件，由于原告的訴訟請(qǐng)求在司法審判中并不常見(jiàn)，因此法官鄭吉喆提出，原告律師可以在庭審后，提交補(bǔ)充代理意見(jiàn)。

北京市通州區(qū)人民法院法官 鄭吉喆：我們也是出于慎重，因?yàn)楫吘惯@個(gè)訴求不是一個(gè)很常見(jiàn)的訴求，我們當(dāng)時(shí)也提到說(shuō)你對(duì)這部分的訴訟請(qǐng)求，你們回去可以向法院提交書(shū)面的補(bǔ)充的意見(jiàn)以及相應(yīng)的這種案例，這樣的話供法院裁判時(shí)參考。

很快，法官收到了原告代理律師郵寄過(guò)來(lái)的代理意見(jiàn)，意見(jiàn)書(shū)里還附帶名為最高人民法院與上海一中院的兩個(gè)參考案例。

北京市通州區(qū)人民法院法官 鄭吉喆：當(dāng)時(shí)法官助理先做了一個(gè)審核，還是挺震驚的，跟我們這個(gè)案子好像描述的觀點(diǎn)，包括描述的內(nèi)容、情形都特別像，完美地還原這個(gè)案例目前的事實(shí)情況，裁判觀點(diǎn)是完美支持了他的訴請(qǐng)。

那么原告代理律師提交的這份書(shū)面代理意見(jiàn)，以及參考案例，在案件的審判中，會(huì)產(chǎn)生什么樣的影響呢？

北京市通州區(qū)人民法院法官 鄭吉喆：對(duì)于不太常見(jiàn)的這種訴求，我們也希望律師能夠提供相應(yīng)的判例，如果確實(shí)說(shuō)有道理，那么我們?cè)撘婪ㄖС?，就?yīng)該依法支持。這也是在一個(gè)轄區(qū)之內(nèi)，那么統(tǒng)一裁判尺度的必要的一個(gè)手段。

兩個(gè)參考案例的事實(shí)細(xì)節(jié)、法律爭(zhēng)議與裁判邏輯，與審理中的案件高度契合，完美佐證了原告代理人的主張觀點(diǎn)，初看之下極具參考價(jià)值。但很快，法官發(fā)現(xiàn)了案例中一些不尋常的地方。

北京市通州區(qū)人民法院法官 鄭吉喆：我看到感覺(jué)是這個(gè)案子是AI生成的，這個(gè)格式像早年的AI生成的，左邊都帶一個(gè)實(shí)心點(diǎn)，包括當(dāng)事人的這種模糊性。

參考案例格式異常

AI生成特征被識(shí)穿

參考案例格式異常，這引起了法官的注意。出于職業(yè)敏感，法官對(duì)這兩起案件進(jìn)行查詢，發(fā)現(xiàn)兩起案件雖然存在，但真實(shí)的裁判文書(shū)與原告代理律師提交的內(nèi)容，完全不同。

北京市通州區(qū)人民法院法官 鄭吉喆：特別是當(dāng)時(shí)她援引了上海一中院的2022滬01民終12345號(hào)，這是一個(gè)民間借貸的案件，這個(gè)跟現(xiàn)在原告代理人向我們提交的股權(quán)代持是一點(diǎn)關(guān)系都沒(méi)有，可以說(shuō)叫風(fēng)馬牛不相及。

在承辦法官的質(zhì)詢下，原告代理律師終于承認(rèn)，參考案例是他提煉本案的事實(shí)情節(jié)，然后反復(fù)向某AI大模型軟件提問(wèn)，由軟件生成的參考案例。

北京市通州區(qū)人民法院法官 鄭吉喆：AI給她生成了這兩個(gè)案例，她覺(jué)得看著跟這個(gè)要求是一樣的，就忽視了這部分核實(shí)的過(guò)程，就直接把這個(gè)案例復(fù)制粘貼整合到了書(shū)面意見(jiàn)，就向法院進(jìn)行了提交。

使用虛假意見(jiàn)材料

涉案律師承擔(dān)何種責(zé)任

事實(shí)雖已查清，一個(gè)新的問(wèn)題又?jǐn)[在了法官的面前，該如何判定律師的這一行為呢？因?yàn)榇硪庖?jiàn)與訴訟中的證據(jù)，在法律性質(zhì)上，還是有著明顯的區(qū)別。

北京市通州區(qū)人民法院法官 鄭吉喆：這個(gè)證據(jù)我們說(shuō)要對(duì)真實(shí)性、合法性、關(guān)聯(lián)性、證明目的來(lái)進(jìn)行審核。像這種書(shū)面意見(jiàn)不需要這些，它更多的是通過(guò)梳理之后，有沒(méi)有類(lèi)似的觀點(diǎn)，有沒(méi)有值得借鑒的，或者更多的是一種審判輔助性的行為，所以應(yīng)該說(shuō)還是有比較大的差別。

根據(jù)民事訴訟法的規(guī)定：訴訟參與人偽造、毀滅重要證據(jù)，妨礙人民法院審理案件的，人民法院可以根據(jù)情節(jié)輕重予以罰款、拘留；構(gòu)成犯罪的，依法追究刑事責(zé)任。

北京市通州區(qū)人民法院法官 鄭吉喆：民事訴訟法明確規(guī)定是對(duì)于偽造重要證據(jù)的，明顯妨礙民事訴訟行為的，最嚴(yán)重的法院可以處以罰款或者拘留。但是對(duì)于其他的相當(dāng)于意見(jiàn)，特別是這種書(shū)面材料，確實(shí)現(xiàn)行法律是沒(méi)有對(duì)這個(gè)問(wèn)題的規(guī)定。

考慮到這一行為在法律上沒(méi)有明確的規(guī)定，且律師無(wú)明顯惡意，情節(jié)輕微，沒(méi)有造成嚴(yán)重后果，法院將這一情節(jié)寫(xiě)進(jìn)了案件的判決書(shū)，予以批評(píng)。“希望原告代理人引以為戒，在向法院提交參考案例、法條時(shí)，應(yīng)當(dāng)進(jìn)行檢查和核驗(yàn)，確保內(nèi)容的真實(shí)性和準(zhǔn)確性，不得放任人工智能模型生成或者編造虛假信息擾亂司法秩序。”法官依據(jù)查明的事實(shí)，依法對(duì)案件作出裁判，對(duì)原告的部分請(qǐng)求不予采納。一審判決后，雙方均未提出上訴，判決已經(jīng)生效。

使用虛假參考案例

浪費(fèi)司法資源

AI幻覺(jué)為了契合預(yù)設(shè)結(jié)果，編造法律依據(jù)或案情，這是技術(shù)工具的局限性帶來(lái)的結(jié)果。而部分當(dāng)事人或者法律從業(yè)者，對(duì)AI過(guò)度依賴(lài)和盲目信任，反而忽視對(duì)信息真實(shí)性的核驗(yàn)義務(wù)。近一段時(shí)期，AI生成的“證據(jù)”與“案例”入侵法庭，已并非個(gè)例，面對(duì)這一沖擊，除了依靠法官的慧眼，法律和相關(guān)的訴訟主體，也應(yīng)當(dāng)劃定紅線，守護(hù)不容模糊的法律邊界。

在通州法院的這起案例中，律師為滿足自身訴求，反復(fù)向AI提問(wèn)，最終生成虛假參考案例。有專(zhuān)家認(rèn)為，這樣的行為，不僅違反了律師的職業(yè)準(zhǔn)則，也浪費(fèi)了司法資源。

中國(guó)社會(huì)科學(xué)院法學(xué)研究所研究員 謝鴻飛：對(duì)律師來(lái)說(shuō)他違反了律師職業(yè)的謹(jǐn)慎勤勉的義務(wù)，即便法院最后沒(méi)有參考這樣一個(gè)虛假的案例，但是也確實(shí)浪費(fèi)了司法資源，所以我想就這樣的一種行為，它主要對(duì)司法的一個(gè)公信力以及司法資源的損傷可能最大的。

比生成參考案例更嚴(yán)峻的是，利用人工智能偽造證據(jù)、虛構(gòu)事實(shí)的情況已經(jīng)出現(xiàn)。在湖北孝感大悟縣人民法院審理的一起房屋租賃合同糾紛案中，原告作為證據(jù)提交的水電表照片，帶有“AI生成”的水印；在法官的質(zhì)詢下，原告最終承認(rèn)，自己利用AI技術(shù)偽造證據(jù)，受到了訓(xùn)誡。

中國(guó)政法大學(xué)教授 譚秋桂：他要給法庭提交了AI生成的這種圖片，他一定是給了機(jī)器一個(gè)指令要生成什么圖片，它就生成了。如果說(shuō)他是當(dāng)事人或者訴訟代理人向法院法庭提交了，明顯是通過(guò)AI生成的圖片的話，那是非常嚴(yán)重的妨害民事訴訟的行為了。

面對(duì)這一由人工智能帶來(lái)的新問(wèn)題，在司法實(shí)踐中，也亟須明確審判規(guī)則。

2025年12月，北京市通州區(qū)人民法院的這起案例入選人民法院案例庫(kù)。裁判要旨中寫(xiě)明：

訴訟參與人在民事訴訟活動(dòng)中應(yīng)當(dāng)遵循誠(chéng)信原則。

訴訟參與人提交通過(guò)人工智能技術(shù)獲取且未經(jīng)甄別核實(shí)的虛假案例的，應(yīng)當(dāng)承擔(dān)相應(yīng)的法律后果。

情節(jié)輕微的，人民法院可以對(duì)其進(jìn)行批評(píng)教育；情節(jié)較重的，可以參照民事訴訟法第一百一十四條第一款的規(guī)定處理。

中國(guó)政法大學(xué)教授 譚秋桂：通過(guò)AI搜索到的材料，它的真實(shí)性，它是屬于民訴法規(guī)定的誠(chéng)信原則的調(diào)整范圍，來(lái)源要講清楚，你不能說(shuō)本來(lái)是自己用AI生成的，你說(shuō)是自己調(diào)取的。對(duì)于案件甄別和核實(shí)的責(zé)任，在于訴訟參與人自己，如果不真實(shí)，有虛假成分或者是虛假的，相應(yīng)的主體，就是提供者，還要承擔(dān)相應(yīng)的法律責(zé)任。

除了在法律上明晰此類(lèi)問(wèn)題的審判原則和法律依據(jù)，也有專(zhuān)家建議，司法機(jī)關(guān)與各法律主體都需探索建立相應(yīng)規(guī)則，劃定邊界，應(yīng)對(duì)人工智能帶來(lái)的風(fēng)險(xiǎn)和挑戰(zhàn)。

北京航空航天大學(xué)法學(xué)院副教授 趙精武：人民法院等司法機(jī)關(guān)應(yīng)當(dāng)更加謹(jǐn)慎客觀地評(píng)估證據(jù)的法律效力，司法行政部門(mén)應(yīng)當(dāng)適時(shí)規(guī)范律師的從業(yè)行為，并不是直接禁止其使用AI工具，而是禁止其在司法活動(dòng)中非法使用AI合成內(nèi)容。訴訟當(dāng)事人、律師等法律主體應(yīng)當(dāng)嚴(yán)格遵守法律法規(guī)，尊重司法權(quán)威，不得利用AI工具從事偽造證據(jù)等違法犯罪活動(dòng)。

編輯|陳柯名 杜波 杜恒峰

校對(duì)|許紹航?

本文轉(zhuǎn)載央視新聞