部分用户使用人工智能却被“幻觉”误导 专家建议厘清多重责任边界补上合规使用“必修课”

发布时间：2026-07-17 16:39:25 来源：安智兰德资讯网 作者：焦点

近期，幻觉人工智能（AI）在提供便利的部分边界补上必修同时，其“幻觉”现象引发的用户法律与伦理争议日益凸显。2026年5月18日，使用使用江苏镇江一消费者在使用某AI软件预约餐厅时，人工收到“预留成功”的智能专家责任明确回复，甚至包含详细的却被到店时间与人数指引，但到店后却被告知无法使用AI预约。误导客服随后回应称，建议平台不具备向第三方传递信息的厘清功能，无法实现实际预约。多重这一事件并非孤例，合规此前更有用户因AI错误生成高校报考信息并承诺“赔偿10万元”而将研发公司诉至法院，幻觉成为全国首例因“AI幻觉”引发的部分边界补上必修侵权纠纷案。

面对AI技术刷新社会认知的用户现状，用户既享受其检索、分析、创作的高效，又因缺乏辨别真伪的能力而陷入法律风险盲区。平台能否以“AI幻觉”免责？如何规范AI的“沟通”逻辑？用户又该如何正确驾驭这一工具？针对上述问题，《法治日报》记者采访了中国政法大学人工智能法研究院院长张凌寒及中国政法大学知识产权创新与竞争研究中心主任陶乾教授。

完善制度框架：从“产品责任”转向“过错责任”

平台定位与归责原则

陶乾指出，厘清平台责任是首要任务。依据《民法典》，生成式人工智能服务平台属于网络服务提供者，其提供的本质是“服务”而非“产品”。因此，平台侵权责任的判定应适用过错责任原则，而非产品责任中的严格责任。平台是否担责，关键在于其是否存在主观过错，即是否履行了法定义务及作为管理者的注意义务。

制度设计与监管平衡

鉴于AI领域的新兴性，监管应秉持包容审慎态度，避免过度监管抑制创新。目前，我国已出台部分部门规章，确立了AI生成内容强制标识等机制。未来需进一步出台配套国家标准，区分模型开发者与服务提供者的具体义务履行方式。

张凌寒补充道，应利用安全港制度等工具，为探索期技术划定试错边界，防止因个案阻碍创新。但平台不能简单以“AI幻觉”为由免责，必须厘清模型提供者、系统部署者与工具提供方的责任分配。若平台未尽注意义务或诱导用户产生不合理信赖，即便存在“幻觉”，仍需承担相应法律责任。

加强预防管控：从事后补救转向事前预防

技术迭代与治理适配

随着部分平台已修正AI回复逻辑（如改为提供预约方式而非直接承诺），技术约束成为关键。张凌寒强调，监管模式需从事后补救转向事前预防与事中管控，并与技术迭代相适应。

• 事前预防：完善备案、标识、测评及安全港制度，将安全可控、公平公正等伦理要求嵌入产品默认设置。
• 事中管控：
• 透明化监管：基于信息公开原则，要求企业公开涉及公众利益算法的数据来源、决策流程与逻辑。
• 公众参与：开展算法影响评估，邀请公众、专家及监管部门共同纠正算法偏见。
• 算法解释：落实算法解释权，确保用户知情。
• 显著标识：在显著位置标注“内容由AI生成，仅供参考”，从源头降低盲目信赖风险。

平台管理与技术优化

陶乾从管理与技术两个维度提出建议：
1. 平台管理：
* 在用户协议及交互界面明确提示“AI幻觉”风险。
* 建立便捷的内容投诉与纠错机制，接到通知后及时核实并处理。
2. 技术层面：
* 从模型侧入手，优化数据清洗、测试评估、指令优化及训练调优环节。
* 通过构建关键词表、分类模型、外部护栏、可信知识库及检索增强生成（RAG）等技术手段，降低幻觉产生概率。

理性审慎使用：从“会用AI”升级为“用懂AI”

构建基本认知框架

陶乾认为，公众急需补上的并非深奥的技术知识，而是关于AI的基本认知框架：
1. 能力边界：AI是基于概率预测的工具，非“知识权威”。它能提升效率，但无法保证内容绝对真实，需警惕信息误信导致的决策失误。
2. 风险边界：严禁上传个人隐私信息及企业涉密文档，防范隐私泄露与数据合规风险。
3. 责任边界：AI可辅助决策，但无法承担法律责任。用户需为自身基于AI做出的决策后果负责。

提升AI素养的四步法

张凌寒指出，AI安全是全社会的共同责任。公众应将“会用AI”升级为“用懂AI”，即既知其所短，也知其所长，不盲目采信。建议公众遵循以下四步提升AI素养：

1. 一看标识：留意内容是否由AI生成，警惕伪造信息。
2. 二护数据：保护个人信息，防止被随意采集或滥用。
3. 三核来源：对AI结论保持甄别，重要信息务必另行核实，警惕欺骗与幻觉。
4. 四守法规：确保使用行为合法合规，权益受损时善用法律渠道维权。

只有让理性、审慎成为使用AI的基本习惯，技术才能真正行稳致远。

（记者 张守坤）

相关文章