AI稱若內(nèi)容有誤愿賠十萬，開發(fā)公司被告上法庭

杭州互聯(lián)網(wǎng)法院判決：人工智能不具有民事主體資格

記者 王春

通訊員 趙媛媛

AI提供不準(zhǔn)確的報考信息，還“底氣十足”地承諾賠償10萬元并建議用戶去法院起訴？近日，杭州互聯(lián)網(wǎng)法院審結(jié)了梁某與某科技公司網(wǎng)絡(luò)侵權(quán)責(zé)任糾紛案，聚焦生成式AI“幻覺”——即生成看似合理卻失實(shí)的信息這一痛點(diǎn)，以司法裁判明確生成式人工智能的責(zé)任邊界。

2025年3月，原告梁某注冊并開始使用某科技公司開發(fā)的一款通用型生成式人工智能應(yīng)用程序。同年6月29日，他在此應(yīng)用中輸入提示詞詢問某高校報考的相關(guān)信息，沒想到AI給出了關(guān)于該高校主校區(qū)的不準(zhǔn)確信息。

發(fā)現(xiàn)問題后，梁某立刻在對話中糾正并指責(zé)AI。令人意外的是，AI堅持稱該校區(qū)確實(shí)存在，甚至主動給出“解決方案”：若生成內(nèi)容有誤，愿意賠償10萬元，并建議梁某到杭州互聯(lián)網(wǎng)法院起訴索賠。

直到梁某提供了該高校官方招生信息，AI才認(rèn)可自己生成了不準(zhǔn)確信息。

“AI明確承諾賠償了，這事兒就得由開發(fā)的公司負(fù)責(zé)�！绷耗痴J(rèn)為，AI生成的不準(zhǔn)確信息對其構(gòu)成誤導(dǎo)，使其遭受侵害，AI也承諾對其進(jìn)行賠償，于是將某科技公司告上法庭，要求被告某科技公司賠償損失9999元。

AI生成的“賠償承諾”算不算數(shù)？AI生成的“承諾”信息是否可以視為被告某科技公司的意思表示？

杭州互聯(lián)網(wǎng)法院經(jīng)審理認(rèn)為，在現(xiàn)行法中，享有民事權(quán)利，能夠作出意思表示的民事主體僅有自然人、法人和非法人組織這三類。人工智能不具有民事主體資格，不能獨(dú)立、自主作出意思表示。

法院認(rèn)為，一方面本案情形中，生成式人工智能生成的內(nèi)容亦不能視為被告某科技公司作出的意思表示。人工智能不具有民事主體資格，其不能作為意思表示的傳達(dá)人、代理人或代表人，某科技公司也沒有通過將人工智能模型作為程序工具，設(shè)定或傳達(dá)其意思表示的行為。另一方面，基于一般社會觀念、交易習(xí)慣等可能產(chǎn)生合理信賴的角度，原告在本案的具體情境中尚缺乏合理的信賴?yán)�益，被告作為該生成式人工智能�?yīng)用程序服務(wù)提供者，也并未作出愿受人工智能生成內(nèi)容約束的外在表示。當(dāng)然，在其他足以產(chǎn)生合理信賴的情況下，比如人工智能客服的應(yīng)用場景中，生成內(nèi)容確有可能被視為相關(guān)服務(wù)提供者的意思表示，從而對其產(chǎn)生約束力。

除了AI承諾的效力問題，案件的另一個核心爭議是：AI“幻覺”引發(fā)的侵權(quán)，應(yīng)該適用產(chǎn)品責(zé)任還是一般侵權(quán)責(zé)任？這兩種責(zé)任原則的區(qū)別在于，產(chǎn)品責(zé)任實(shí)行無過錯歸責(zé)原則，只要因產(chǎn)品缺陷造成損害，生產(chǎn)者就要擔(dān)責(zé)；而一般侵權(quán)責(zé)任是過錯責(zé)任，需要被告存在過錯才需擔(dān)責(zé)。

法院認(rèn)定，AI“幻覺”引發(fā)的侵權(quán)糾紛應(yīng)適用一般侵權(quán)責(zé)任的過錯責(zé)任原則，而非無過錯責(zé)任原則。

“案涉生成式人工智能屬于服務(wù)，而非產(chǎn)品，比如手機(jī)、食品等產(chǎn)品，有明確的特定用途及合理可行的質(zhì)檢標(biāo)準(zhǔn)，但生成式人工智能服務(wù)是動態(tài)的，不同用戶、不同時間、不同問題都會導(dǎo)致不同的內(nèi)容輸出，生成式人工智能服務(wù)提供者缺乏對生成信息內(nèi)容足夠的預(yù)見和控制能力�！背修k法官肖芄解釋，生成式人工智能服務(wù)若適用無過錯歸責(zé)原則，可能會不當(dāng)加重服務(wù)提供者的責(zé)任，限制人工智能產(chǎn)業(yè)的發(fā)展。

“生成式人工智能侵權(quán)責(zé)任的歸責(zé)原則問題，是當(dāng)前國內(nèi)外理論界和實(shí)務(wù)界熱議的焦點(diǎn)�！鼻迦A大學(xué)法學(xué)院教授程嘯指出，杭州互聯(lián)網(wǎng)法院這一認(rèn)定對于今后司法實(shí)踐裁判人工智能侵權(quán)糾紛中準(zhǔn)確適用侵權(quán)法的歸責(zé)原則具有重要啟示。

適用過錯責(zé)任原則，就意味著要判斷某科技公司是否存在過錯。原告主張受到的侵害是因信息不準(zhǔn)確，致其受誤導(dǎo)錯失報考機(jī)會、額外產(chǎn)生信息核實(shí)、維權(quán)成本等純粹經(jīng)濟(jì)利益，因此，須從被告是否違反注意義務(wù)進(jìn)行判定。

法院明確，生成式人工智能技術(shù)還處于高速發(fā)展期，其應(yīng)用場景具有很強(qiáng)的泛在性，故服務(wù)提供者的注意義務(wù)處在一個動態(tài)調(diào)整的框架之中，宜采取動態(tài)系統(tǒng)論的方法進(jìn)行綜合考量、具體分析。

首先，服務(wù)提供者應(yīng)對法律禁止的有毒、有害、違法信息盡嚴(yán)格審查義務(wù)，一旦生成這類信息就構(gòu)成違法。但對于除此之外的其他一般性不準(zhǔn)確信息，現(xiàn)行法律規(guī)范未對服務(wù)提供者科以必須確保信息準(zhǔn)確的結(jié)果性審查義務(wù)�！巴ㄓ眯虯I要面對海量不同領(lǐng)域的問題，要求服務(wù)提供者逐一審查輸出內(nèi)容，在現(xiàn)有技術(shù)條件下很難做到。”肖芄說。

其次，服務(wù)提供者應(yīng)盡到服務(wù)功能的顯著提示說明義務(wù)，即讓用戶清楚知道AI的局限性，不能把AI當(dāng)作“知識權(quán)威”。法院查明，被告某科技公司已在應(yīng)用程序歡迎頁、《用戶協(xié)議》及其他公示文件、交互界面顯著位置，呈現(xiàn)AI生成內(nèi)容功能局限的提醒標(biāo)識，符合這一要求。

最后，服務(wù)提供者應(yīng)盡功能可靠性的基本注意義務(wù)，采取同行業(yè)通行技術(shù)措施提高生成內(nèi)容的準(zhǔn)確性。該案中，某科技公司的大模型已完成國家備案和安全評估，還采用了檢索增強(qiáng)生成（RAG）等技術(shù)手法提升輸出的準(zhǔn)確性與可靠性，這些證據(jù)都證明其盡到了相關(guān)義務(wù)。

此外，法院還指出，梁某主張的損害缺乏證據(jù)支撐。“無損害則無賠償，原告沒能證明自己確實(shí)因AI生成的不準(zhǔn)確信息遭受了實(shí)際損失，而且這些不準(zhǔn)確信息實(shí)質(zhì)上也沒有影響他的報考決策�！�

綜合上述因素，法院一審駁回了原告梁某的訴訟請求，原被告雙方均未上訴，判決現(xiàn)已生效。

鏈接

清華大學(xué)法學(xué)院教授程嘯評價說：作為我國目前第一起因生成式人工智能模型“幻覺”引發(fā)的侵權(quán)糾紛，杭州互聯(lián)網(wǎng)法院在充分權(quán)衡民事權(quán)益保護(hù)與鼓勵促進(jìn)人工智能技術(shù)發(fā)展基礎(chǔ)上，依法對爭議問題作出了正確的裁決，具有極為重要的理論意義和實(shí)踐價值。

上海交通大學(xué)凱原法學(xué)院副教授林洹民認(rèn)為，判決明確了三個關(guān)鍵問題：AI不具有民事主體地位，其作出的“表示”并非具有法律拘束力的意思表示；AI適用過錯責(zé)任，而非無過錯責(zé)任的產(chǎn)品責(zé)任；生成式人工智能服務(wù)提供者并不承擔(dān)一般性的審查義務(wù)。“這充分考慮了大語言模型的技術(shù)特點(diǎn)，避免過度限制生成式人工智能產(chǎn)業(yè)發(fā)展�！薄�

“AI有強(qiáng)大的‘魔法’，但也有明顯局限�！毙ぼ固嵝�，公眾在使用AI時要保持理性，清醒認(rèn)識到當(dāng)前AI只是“文本輔助生成器”和“信息查詢輔助工具”，不能替代決策，更不能輕信盲從。