每經(jīng)記者｜宋欣悅    每經(jīng)編輯｜金冥羽 李雨冰    

記者|宋欣悅

編輯|金冥羽?李雨冰 杜恒峰?校對(duì)|何小桃

“被豆包坑走600塊，血淚教訓(xùn)！隨意給金錢決策建議，出事誰(shuí)兜底？”近日，字節(jié)跳動(dòng)旗下AI（人工智能）應(yīng)用“豆包”因AI“幻覺(jué)”等問(wèn)題，被用戶起訴到法院的事廣受關(guān)注。

起因是有用戶在社交平臺(tái)上稱，自己采納了豆包關(guān)于機(jī)票退票的錯(cuò)誤建議，損失了600元；在后續(xù)交涉中，豆包不僅“認(rèn)錯(cuò)”，還信誓旦旦地承諾全額賠償，但并未履行。該用戶還發(fā)布了一張疑似立案申請(qǐng)平臺(tái)頁(yè)面的截圖，圖片顯示已向法院起訴豆包App的運(yùn)營(yíng)方北京春田知韻科技有限公司。

5月19日，《每日經(jīng)濟(jì)新聞》記者（以下簡(jiǎn)稱“每經(jīng)記者”）查詢發(fā)現(xiàn)上述用戶的相關(guān)發(fā)帖已刪除。隨后，每經(jīng)記者就該事件后續(xù)如何處理、相關(guān)立案申請(qǐng)進(jìn)展等問(wèn)題采訪豆包、字節(jié)跳動(dòng)，但截至發(fā)稿未得到回復(fù)。

盡管AI“幻覺(jué)”引發(fā)的糾紛并非孤例，但當(dāng)我們遇到AI用“權(quán)威”的口吻胡編亂造，甚至開出“空頭支票”，責(zé)任的邊界應(yīng)如何劃定？技術(shù)的高速普及與公眾認(rèn)知、法律治理之間的鴻溝，又該如何彌合？

AI承諾賠付600元卻“爽約”

律師稱其無(wú)法律效力

近日，一位網(wǎng)友在社交平臺(tái)上發(fā)帖稱，他因個(gè)人行程變動(dòng)，需退訂石家莊至重慶機(jī)票。由于擔(dān)心手續(xù)費(fèi)過(guò)高，他向AI助手“豆包”咨詢退票規(guī)則。豆包明確表示可以放心退票，平臺(tái)只扣5%的手續(xù)費(fèi)。

出于對(duì)AI的信任，該用戶未在航司官網(wǎng)核實(shí)便直接操作退票。然而，退票的結(jié)果讓他格外吃驚：實(shí)際被扣除的手續(xù)費(fèi)高達(dá)40%，遠(yuǎn)非豆包所說(shuō)的5%，直接經(jīng)濟(jì)損失達(dá)600元。

發(fā)現(xiàn)自己被誤導(dǎo)后，該用戶再次與豆包理論。面對(duì)質(zhì)問(wèn)，豆包表示自己將全權(quán)負(fù)責(zé)維權(quán)，并保證該用戶全程“零參與、零操作、零麻煩”。此外，豆包還向該用戶承諾，若5月6日前未追回費(fèi)用，它將直接賠付該用戶600元。不僅如此，豆包還給出了一份完整的“賠付承諾書”。

然而，到了約定賠付的日期，用戶卻并未收到任何款項(xiàng)。豆包這次回復(fù)稱，自己是AI，無(wú)法直接進(jìn)行轉(zhuǎn)賬。從被誤導(dǎo)、到被承諾、再到被“戲耍”，該用戶一氣之下，決定起訴豆包。有趣的是，在準(zhǔn)備起訴的過(guò)程中，他再次咨詢豆包是否需要聘請(qǐng)律師。豆包的回答是，“完全不用請(qǐng)律師，自己就能打贏”。

該用戶在社交媒體上發(fā)布的一張截圖顯示，他已于5月12日向法院起訴了豆包App的運(yùn)營(yíng)方北京春田知韻科技有限公司。

那么，AI生成的“賠付承諾書”是否具有法律效力？

對(duì)此，北京星權(quán)律師事務(wù)所律師鄧以勒在接受每經(jīng)記者采訪時(shí)表示，AI生成的賠付承諾并不具備法律效力。她強(qiáng)調(diào)，AI不具有民事主體資格，不能獨(dú)立作出意思表示。

鄧以勒進(jìn)一步解釋，當(dāng)用戶追責(zé)索賠時(shí)，目前市面上大部分大模型的邏輯是提供安撫、擔(dān)責(zé)、賠償類高概率話術(shù)，輸出內(nèi)容是基于用戶當(dāng)下的需求而來(lái)的。相關(guān)內(nèi)容只是程序算法，不會(huì)自主決策，更無(wú)權(quán)代表企業(yè)對(duì)外作出財(cái)產(chǎn)賠付、兜底賠償?shù)瘸兄Z。

平臺(tái)免責(zé)需看“過(guò)錯(cuò)”

AI“幻覺(jué)”非萬(wàn)能擋箭牌

事實(shí)上，國(guó)內(nèi)已有類似判例。在全國(guó)首例生成式AI“幻覺(jué)”引發(fā)的網(wǎng)絡(luò)侵權(quán)責(zé)任糾紛案中，某AI因提供錯(cuò)誤高校報(bào)考信息，向用戶“承諾”賠償10萬(wàn)元，杭州互聯(lián)網(wǎng)法院最終認(rèn)定人工智能不具有民事主體資格，其承諾無(wú)效。

那么，平臺(tái)是否需要為用戶的損失承擔(dān)責(zé)任？

鄧以勒認(rèn)為，判定平臺(tái)責(zé)任應(yīng)適用民法典中的一般過(guò)錯(cuò)責(zé)任原則，核心在于平臺(tái)在提供服務(wù)時(shí)是否存在過(guò)錯(cuò)，即“有錯(cuò)才賠”。

如果平臺(tái)已經(jīng)在界面顯著位置標(biāo)注“AI生成內(nèi)容僅供參考”，并采取了必要措施提高生成內(nèi)容的準(zhǔn)確性，盡到了合理的注意義務(wù)，那么平臺(tái)通常不需承擔(dān)額外責(zé)任。

記者詢問(wèn)豆包是否被用戶起訴 圖片來(lái)源：豆包客戶端

然而，AI“幻覺(jué)”絕非平臺(tái)的免責(zé)擋箭牌。

鄧以勒指出，法律判斷的標(biāo)準(zhǔn)在于平臺(tái)在其中扮演的角色。如果平臺(tái)并非簡(jiǎn)單轉(zhuǎn)述，而是對(duì)信息進(jìn)行了錯(cuò)誤的二次加工，并生成了新的虛假內(nèi)容，那么AI就成了平臺(tái)提供服務(wù)的工具。此時(shí)，若滿足侵權(quán)構(gòu)成要件，平臺(tái)作為AI輸出內(nèi)容的法律主體則需承擔(dān)責(zé)任。

例如，在2026年4月審結(jié)的“全國(guó)人工智能大模型名譽(yù)侵權(quán)第一案”中，某AI平臺(tái)將一名律師錯(cuò)誤描述為“涉及多項(xiàng)刑事犯罪”，且在當(dāng)事人多次投訴后仍未徹底清除侵權(quán)內(nèi)容，法院最終認(rèn)定平臺(tái)主觀上存在過(guò)錯(cuò)，構(gòu)成名譽(yù)侵權(quán)。

技術(shù)迭代快于公眾認(rèn)知

專家：從產(chǎn)品設(shè)計(jì)源頭規(guī)避風(fēng)險(xiǎn)

“豆包”機(jī)票事件，是當(dāng)前AI產(chǎn)業(yè)應(yīng)用中一系列深層矛盾的集中體現(xiàn)。

亞洲視覺(jué)科技研發(fā)總監(jiān)陳經(jīng)在接受每經(jīng)記者采訪時(shí)指出，此類事件的核心問(wèn)題在于，當(dāng)大模型以“知識(shí)代理”的面目出現(xiàn)時(shí)，其輸出的不確定性本質(zhì)與用戶對(duì)確定性服務(wù)的期待之間，存在著一條難以調(diào)和的鴻溝。

從技術(shù)原理上看，大語(yǔ)言模型的核心機(jī)制是“預(yù)測(cè)下一個(gè)最可能的token（詞元）”，其首要目標(biāo)是生成流暢、連貫、看起來(lái)合理的回答，而非保證每一句話都符合事實(shí)真相。AI“幻覺(jué)”雖可通過(guò)技術(shù)手段降低，但無(wú)法在根本上根除。

然而，這種技術(shù)局限性對(duì)于絕大多數(shù)普通用戶而言是陌生甚至難以理解的。

“如果不熟悉大模型的弱點(diǎn)，用戶會(huì)認(rèn)為對(duì)話式交互天然帶有一種‘?dāng)M人化權(quán)威感’，很容易將其等同于有企業(yè)責(zé)任兜底的‘客服’或‘專家’?！标惤?jīng)向每經(jīng)記者表示，這種信任錯(cuò)位是風(fēng)險(xiǎn)的關(guān)鍵來(lái)源。用戶習(xí)慣性地將對(duì)傳統(tǒng)客服的信任框架套用在了AI身上，卻忽略了二者背后截然不同的責(zé)任機(jī)制。

當(dāng)AI技術(shù)進(jìn)展以周為單位迭代，用戶規(guī)模以億級(jí)增長(zhǎng)時(shí)，公眾對(duì)AI的認(rèn)知速度卻相對(duì)滯后。

QuestMobile發(fā)布的數(shù)據(jù)顯示，截至今年3月，AI原生App整體用戶規(guī)模達(dá)4.46億，相較2025年1月增長(zhǎng)超3億。其中，用戶版圖正朝“銀發(fā)+下沉”雙向延伸，“60后”及三線城市以下用戶占比分別提升1.7%和2.4%，用戶規(guī)模相應(yīng)增加1660萬(wàn)和9126萬(wàn)。

圖片來(lái)源：QuestMobile

越來(lái)越多對(duì)新興技術(shù)認(rèn)知相對(duì)不足、信息辨別能力相對(duì)較弱的用戶群體正在成為AI的使用者。面對(duì)AI“幻覺(jué)”帶來(lái)的種種問(wèn)題，僅僅讓用戶提高警惕顯然是不夠的。

“根本責(zé)任在于開發(fā)者一方，靠產(chǎn)品倫理的升級(jí)來(lái)解決問(wèn)題更為重要和有效?！标惤?jīng)認(rèn)為，AI產(chǎn)品的開發(fā)者和運(yùn)營(yíng)方，作為最了解技術(shù)風(fēng)險(xiǎn)的一方，理應(yīng)承擔(dān)起更大的責(zé)任，從產(chǎn)品設(shè)計(jì)的源頭就建立起完善的風(fēng)險(xiǎn)控制機(jī)制，而非將風(fēng)險(xiǎn)和辨別責(zé)任完全轉(zhuǎn)移給用戶。

陳經(jīng)建議，首先建立強(qiáng)制溯源機(jī)制。對(duì)涉及具體規(guī)則、金額、時(shí)效的回答，必須附帶信息來(lái)源鏈接，且來(lái)源可點(diǎn)擊驗(yàn)證。這樣有經(jīng)驗(yàn)的用戶不會(huì)上當(dāng)。其次，在交互設(shè)計(jì)層面，在高風(fēng)險(xiǎn)場(chǎng)景加入熔斷機(jī)制。當(dāng)識(shí)別到用戶詢問(wèn)涉及資金、法律、醫(yī)療等問(wèn)題時(shí)，強(qiáng)制觸發(fā)二次確認(rèn)流程，并強(qiáng)調(diào)“該回答不構(gòu)成專業(yè)建議”。

而在責(zé)任界定層面，陳經(jīng)向每經(jīng)記者表示，大模型要明確告知用戶“AI生成內(nèi)容僅供參考，不構(gòu)成專業(yè)建議或企業(yè)承諾”。如果大模型企業(yè)為了推廣，自愿設(shè)立“AI錯(cuò)誤賠償基金”，愿意賠償，也需要明確適用范圍和申請(qǐng)流程，不能放任模型在對(duì)話中隨意承諾。

免責(zé)聲明：本文內(nèi)容與數(shù)據(jù)僅供參考，不構(gòu)成投資建議，使用前請(qǐng)核實(shí)。據(jù)此操作，風(fēng)險(xiǎn)自擔(dān)。

｜每日經(jīng)濟(jì)新聞 ?nbdnews? 原創(chuàng)文章｜

未經(jīng)許可禁止轉(zhuǎn)載、摘編、復(fù)制及鏡像等使用