世界杯赔率专注世界杯官网，为用户提供专业可靠的体验。

“AI幻觉”，即大型语言模型凭空捏造看似合理但缺乏事实依据的内容，是当前生成式人工智能领域面临的普遍技术挑战。当AI输出的虚假信息损害他人合法权益时，侵权责任应如何界定？

“AI幻觉”引发的权益受损事件

沈女士，一名在北京某MCN公司工作的员工，近期在使用一款AI工具时，观察到AI在生成内容过程中，会“反复纠结应对方案，萌生编造虚假数据想法”。她提供的AI平台回复截图显示，在要求AI进一步完善表格数据后，AI曾回复：“我最后决定，强行给出一个全部表格，数据是我随机编的，但保证总和正确。” 沈女士最终并未采纳该AI工具的输出结果。

类似“AI幻觉”的现象已导致部分用户权益受损。近期，江苏省南京市中级人民法院审理了一起因“AI幻觉”侵害名誉权的案件。李某在某搜索平台的手机客户端上搜索个人信息时，发现该平台智能关联推送了“李某被判几年”的内容。此外，该平台的AI智能回复板块生成了虚假信息，声称“根据搜索结果，被告人李某因犯爆炸罪，被判处有期徒刑三年”，并配以李某穿着职业装的照片。

在向该平台运营商投诉无果后，李某提起诉讼。法院最终判决该运营商因侵害名誉权向李某进行书面赔礼道歉。

发布AI生成的虚假内容须承担责任

在浙江省杭州市滨江区人民法院此前通报的一起涉及“AI幻觉”的案件中，自媒体博主小李发布了一篇由AI生成的文章，该文章虚构了某企业的隶属关系，将一家非知名企业包装成某知名企业的重要下属子公司。涉事知名企业认为该文章内容失实且误导公众，损害其商业信誉和竞争利益，遂起诉小李。

法院审理认为，小李以获取商业利益为目的发布文章，明知内容源于AI且可能失实，却未履行审核和显著标识的义务，因此判决小李发布声明以消除影响，并赔偿3万元。

北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括在接受《工人日报》采访时解释了AI“一本正经地胡编乱造”的原因。他指出，AI的知识来源于训练数据，若数据本身存在错误，AI可能无法辨别，从而吸收错误数据并用于内容生成。此外，在人机交互过程中，若用户提问存在误导或模糊不清，AI为满足用户需求，可能强行填补信息空白，编造出看似合理的结论。

吴沈括进一步表示，“AI并非民事主体，无法承担民事责任。若AI服务提供者未尽到审核或合理提示等义务，对侵权行为的发生存在过错，则应承担相应责任。” 他补充说，AI成果的使用者若未尽到合理的审核义务，明知内容侵权仍使用传播，导致损害扩大，也应根据其过错程度承担侵权责任。

平台应从源头防范侵权风险

记者了解到，在多起涉及“AI幻觉”侵权的案件判决中，多次引用了《中华人民共和国民法典》和《生成式人工智能服务管理暂行办法》的相关规定。《民法典》规定，行为人因过错侵害他人民事权益造成损害的，应当承担侵权责任，法律推定行为人有过错，除非其能证明自己没有过错。《生成式人工智能服务管理暂行办法》则明确了AI服务提供者的义务，若未履行相关注意义务，则可能被认定存在过错并承担责任。此外，著作权法等法律条款也为判断知识产权侵权行为提供了依据。

针对“AI幻觉”乱象，吴沈括建议，平台应加强数据管理，使用合法合规的数据进行训练，从源头防范侵权风险。他同时强调，用户也应规范使用行为，提出合法合理的需求，避免刻意引导AI模仿特定IP或名人，并尊重他人知识产权。

吴沈括还建议：“用户应避免将敏感信息输入AI系统，防止数据泄露，并对相关信息进行脱敏处理。对于AI生成的结果，应持审慎态度，先审核后使用。” 他认为，面对AI技术带来的风险，还需要畅通救济渠道，强化AI生成内容的证据链管理，确保操作主体可追溯、证据可固定。

厘清生成式AI服务的责任边界

赵昂

随着人工智能应用的普及和用户群体的扩大，“AI幻觉”引发的侵权纠纷日益受到关注。从已公开的案件信息来看，对于同类“AI幻觉”侵权纠纷，部分平台企业被判承担责任，而另一些则被认定不具有过错。那么，生成式AI服务的责任边界究竟在哪里？

梳理现有生效判决，可以发现一些共性裁判逻辑。例如，有判决明确，相关责任的认定并非取决于“AI说了什么”，而是服务提供者是否尽到了与其控制力相匹配的义务。

在此背景下，可对比两起判决结果不同的案件：

一方面，在国内首例“AI幻觉”案中，一位高考生的亲属梁某在查询高校信息时，发现AI平台生成信息存在错误。当他就此质疑AI时，AI回应称“如果生成内容有误，我将赔偿您10万元”。梁某遂诉至法院，要求AI平台的研发公司赔偿。受理此案的杭州互联网法院驳回了梁某的诉讼请求。法院认为，生成式人工智能技术服务提供者对法律禁止的有毒、有害、违法信息负有严格审查义务，但对于一般性不准确信息，现行法律规范并未明确规定。要求案涉研发公司审查生成的海量信息内容的准确性，超出了现有技术条件，且该公司已尽提示说明义务，因此不具有过错。

另一方面，在本版头条报道的李某案件中，江苏省南京市中级人民法院审理认为，案涉平台的“AI智能回答”是生成式人工智能服务提供者通过技术主动整合、加工信息并公开展示的，侵害了李某的名誉权。该服务的提供者作为内容生产者与发布者，应对主动加工并公布的信息负有更高的内容审核与风险防控义务。

除既有判决外，国家相关部门也已发布文件，明确提供和使用生成式人工智能服务的规则与底线，并持续推进完善。例如，国家网信办等七部门发布的《生成式人工智能服务管理暂行办法》提出，提供和使用生成式人工智能服务，应“尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益”，并“基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性”。

由此可见，围绕生成式AI服务的边界，司法实践与监管要求已逐步清晰：相关责任的界定，关键在于评估服务提供者是否依据其控制力和信息加工深度，尽到了相应的注意与审查义务。在此基础上，既要对技术创新保持适度的宽容，不应苛求生成式人工智能服务者承担绝对责任，同时也应坚决守住保护他人合法权利的底线，确保合法权益不受侵害。

作者：本报记者 刘儒雅

来源：工人日报