“AI幻覺”指大語言模型憑空編造的并無事實支撐、邏輯看似完整可信的虛假內容，這也是當下生成式AI領域普遍存在的技術難題。當AI輸出不實信息并致使他人合法權益遭受損害，相關侵權責任該由誰承擔？
有人因“AI幻覺”被侵權
就職于北京某MCN公司的沈女士告訴《工人日報》記者，其在近期使用某AI工具時，看到了AI反復糾結應對方案、萌生編造虛假數據想法的“內心推演”過程。
在沈女士提供的AI平臺回復截圖中，記者看到，在她向AI平臺提出進一步完善表格數據的要求之后，AI在思考過程中回復“我最后決定，強行給出一個全部表格，數據是我隨機編的，但保證總和正確”。而后，沈女士未采用該AI工具輸出的相關結果。
類似的“AI幻覺”現象，致使部分用戶權益被侵害。近日，江蘇省南京市中級人民法院審理了一起“AI幻覺”導致侵害名譽權的案件。該案中，李某在某搜索平臺的手機客戶端搜索個人信息時，意外發現該平臺智能關聯推送了“李某被判幾年”的內容。此外，該平臺AI智能回復板塊憑空生成虛假信息，稱“根據搜索結果，被告人李某因犯爆炸罪，被判處有期徒刑三年”，并將李某本人穿著職業裝的照片一并展示在回答內容中。
隨后，李某在向案涉平臺的運營商發郵件投訴未果后，訴至法院。最終，法院以侵害名譽權判令該運營商向李某書面賠禮道歉。
發布AI生成的虛假內容要擔責
在浙江省杭州市濱江區人民法院此前通報的一起涉“AI幻覺”的案件中，自媒體博主小李發布了一篇由AI生成的文章，其中虛構了某企業隸屬關系，將無關企業包裝為知名企業的下屬重要子公司。案涉知名企業認為，該文章內容不實，并且嚴重誤導公眾，以損害其商業信譽與競爭利益為由，將小李訴至法院。
對此，法院經審理認為，小李以獲取商業利益為目的發布文章，明知內容源于AI、可能失實，卻沒盡到審核與顯著標識的義務，判決小李發布聲明以消除影響并賠償3萬元。
為何AI會一本正經地胡編亂造？北京師范大學法學院博士生導師、中國互聯網協會研究中心副主任吳沈括在接受《工人日報》采訪時表示，AI的知識來源于訓練數據，當投喂給AI的數據存在錯誤時，AI有時會無法分辨，進而將錯誤的數據吸收并作為生成內容的依據。“在人機交互的過程中，如果用戶的提問本身存在誤導或是模糊不清，AI可能會為了迎合用戶需求而強行填補漏洞，編造出看似科學的結論。”
“AI不是民事主體，無法承擔民事責任。如果AI服務提供者沒有盡到相應的審核或合理提示等義務，對于侵權產生存在過錯，則應當承擔責任。”吳沈括認為，AI成果的使用者如果未盡合理審核義務，明知內容存在侵權仍然使用傳播，造成損害擴大，則也需根據其過錯程度承擔相應的侵權責任。
平臺應從源頭上防范侵權風險
記者了解到，在多起涉“AI幻覺”侵權的案件判決中，多次提及我國民法典和《生成式人工智能服務管理暫行辦法》有關規定。依據我國民法典規定，行為人因過錯侵害他人民事權益造成損害的，應當承擔侵權責任，依照法律規定推定行為人有過錯，其不能證明自己沒有過錯的，也應當承擔侵權責任。此外，《生成式人工智能服務管理暫行辦法》規定了AI服務提供者的義務，如果未履行該辦法中規定的合理注意義務，則可認定為存在過錯，需承擔責任。在內容權屬方面，著作權法等法律中的相關條款，也為知識產權侵權行為的判定提供了一定法律依據。
針對“AI幻覺”相關亂象，吳沈括建議，平臺需進一步加強數據管控，使用合法合規的數據進行訓練，從源頭上防范侵權風險。“用戶要規范自身的使用行為，對AI提出合法合理需求，不刻意引導AI進行模仿特定IP或是名人的行為，尊重他人知識產權。”
“避免將敏感信息輸入AI系統，防止數據泄露，注意對相關信息進行脫敏，對于AI生成的結果保持審慎態度、先審核再使用。”在吳沈括看來，面對AI技術帶來的風險，還需暢通救濟渠道，強化AI生成內容的證據鏈管理，確保操作主體可追溯、證據可固定。
厘清生成式AI服務的責任邊界
趙昂
隨著人工智能的應用面越來越廣、觸及用戶越來越多，“AI幻覺”引發的侵權糾紛不斷進入公眾視野。從目前的公開案件信息來看，同樣是由“AI幻覺”引發的侵權糾紛，有的平臺企業被判擔責，有的平臺企業則被認定不具有過錯。那么，不同判決之間，生成式AI服務的責任邊界究竟在哪里？
梳理既有的生效判決可以發現，類似案件的裁判邏輯存在一些共性。比如，有判決明確，相關責任的認定并不在于“AI說了什么”，而在于服務提供者是否盡到了與其控制力相匹配的義務。
對此，不妨來對比兩起判決結果不同的案件：
一方面，在國內首例“AI幻覺”案中，一位高考生的親屬梁某在查詢高校信息時，發現AI平臺生成的信息存在錯誤。當他以此質疑AI時，AI卻回答“如果生成內容有誤，我將賠償您10萬元”。梁某后訴至法院，要求AI平臺的研發公司賠償。受理此案的杭州互聯網法院作出判決，駁回了梁某的訴訟請求。法院認為，生成式人工智能技術服務提供者應對法律禁止的有毒、有害、違法信息盡嚴格審查義務，但對于其他一般性不準確信息，現行法律規范未明確規定。要求案涉研發公司審查生成的海量信息內容準確性，超出了現有技術條件。且該公司已盡提示說明義務，因此并不具有過錯。
另一方面，在本版頭條通訊提到的李某一案中，江蘇省南京市中級人民法院審理認為，案涉平臺的“AI智能回答”是生成式人工智能服務提供者通過技術主動整合、加工信息并公開展示的，侵害李某名譽權。該服務的提供者系內容生產者與發布者，應對主動加工并予以公布的信息，負有更高的內容審核與風險防控義務。
除了既有判決，針對提供和使用生成式人工智能服務的規則與底線，國家相關部門也已發布文件予以明確，并持續推進完善。例如，國家網信辦等7部門發布的《生成式人工智能服務管理暫行辦法》提到，提供和使用生成式人工智能服務，應當“尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益”，并“基于服務類型特點，采取有效措施，提升生成式人工智能服務的透明度，提高生成內容的準確性和可靠性”。
由此可見，圍繞生成式AI服務的邊界，司法實踐與監管要求已逐步廓清：相關責任的界定，關鍵在于評估服務提供者是否依據其控制力和信息加工深度，盡到了對應的注意與審查義務。在此基礎上，既要對技術創新保持適度的寬容，不應苛責生成式人工智能服務者對所有技術問題承擔絕對責任，同時也應堅決守住保護他人合法權利的底線，確保合法權益不受侵害。
掃碼下載
中文網微信