从“AI偷脸”到“大模型虚假输出”，司法如何追赶技术狂奔的速度？

发布时间：2026-07-17 12:45:57 来源：安智兰德资讯网 作者：综合

“AI时代的AI偷脸人机协同创作模式，彻底颠覆了传统网络领域‘内容提供’与‘技术服务’的从到出司二元划分。面对AI换脸、大模的速度大模型幻觉及人机创作侵权等新型纠纷，型虚简单套用旧有‘避风港’规则进行一刀切裁判已行不通。假输技术”7月9日，法何在“2026第二十五届中国互联网大会”举办的追赶“智能时代的司法挑战与应对”圆桌论坛上，北京互联网法院立案庭（诉讼服务中心）副庭长王彦杰一针见血地指出了行业痛点。狂奔

随后，AI偷脸王彦杰与杭州互联网法院政治部副主任王岩、从到出司广州互联网法院审管办（研究室）主任胡剑敏，大模的速度围绕“AI偷脸”、型虚虚拟人商用、假输技术AI图文抄袭及大模型虚假输出等热点议题展开了深度对话。法何

据《每日经济新闻》记者现场了解，追赶AI工具大幅降低了侵权门槛，导致批量换脸、著作权侵权案件呈爆发式增长。数据显示，广州互联网法院近三年受理的涉AI案件约700件。然而，此类案件普遍面临技术黑箱难拆解、参与主体多层化、责任边界模糊等司法难题。在技术狂奔的背景下，司法体系如何既有效保护受害者，又避免扼杀技术创新？

图片来源：每经记者 温沐夏 摄

定性之辩：“偷脸”还是创作？法律直面“人机混同”新客体

圆桌现场，王彦杰分享的“春风案”引发了广泛关注。该案中，原告利用AI绘画软件，通过输入提示词并历经多轮修改生成图片，却被他人擅自使用。法院最终认定，原告对涉案图片享有著作权法意义上的权利，被告未经许可的使用行为构成侵权。

这一判决确立了核心原则：AI仅是工具，人类才是创作主体。享有权利的并非AI本身，而是通过智力投入进行选择和操控的人类创作者。

然而，确认“AI创作”权利的同时，严峻的侵权风险也随之而来。

记者获悉，近三年广州互联网法院受理的涉人工智能案件约700件，其中商业维权现象尤为突出。AI图文及短视频生成工具大幅降低了侵权成本，导致批量抄袭、换脸商用案件持续攀升。

胡剑敏对这类案件的特征进行了归纳：
1. 主体多重且法律关系复杂：人工智能涉及从数据训练、提示词输入、内容输出到智能体化平台调用的全流程，涉及工具使用者、服务提供者、内容平台等多层主体。
2. 技术解构难度大：算法黑箱及模型训练流程超出了传统法官的认知范畴。
3. 商业侵权规模化：AI工具实现了高效率、低成本的批量侵权，传统维权模式应对乏力。

责任重构：打破“二分法”，引入控制力与场景化视角

当AI换脸侵犯肖像权、大模型搜索输出误导结论引发名誉侵权时，用户、应用方与模型提供方之间的责任链条该如何切分？

胡剑敏提到的广州互联网法院近期生效的一起“AI幻觉案”极具代表性。当事人使用AI查询“某机构是否是正规机构”，AI回答：“不是正规机构。”该机构认为此回答侵害其权益，遂提起诉讼。

法院审查发现，用户提出的属封闭式问题，答案非黑即白，但“正规”一词定义本身模糊。用户在输入提示词时，实际上已对回答方向施加了引导。

最终，法院认定输出结果与提示词结构存在密切关联，提示词的设计直接影响了答案的真实性和准确性，因此责任不能全部由服务提供者承担。

这一判决给用户敲响了警钟：不能将一切责任推给技术。胡剑敏强调，从用户角度看，审查其注意义务时，不仅要看是否存在规避平台审查的行为，还要判断用户是否进行了误导性发问。

对于服务提供者而言，“技术中立”并非免责金牌。胡剑敏表示，广州互联网法院在考察服务提供者的注意义务时，主要涵盖以下维度：
* 数据来源是否可信；
* 平台是否符合当前通行技术水平；
* 输出结果是否存在人工干预。

王彦杰进一步指出，AI时代的人机协同模式已打破传统网络“内容提供”与“技术服务”的二元结构。在具体侵权场景下，应兼顾服务提供者作为“内容生产者”和“平台服务者”的双重角色来认定责任。

技术赋能：建立数字技术管理中心，破解审理难点

为应对技术审理中的专业壁垒，胡剑敏透露，广州互联网法院正在尝试建立数字技术管理中心，预计将于8月底正式挂牌成立。

区别于传统的知识产权法院技术调查官制度，该机构专司解构数据训练、输出逻辑等专业化知识鸿沟，为司法裁判提供技术支撑。

与会专家达成三方共识：责任分担必须锚定控制力度与过错程度。
* 在AI换脸黑灰产中，不能因算法黑箱让平台背负无限连带责任；
* 也不能让用户以“机器自动生成”为挡箭牌逃避责任。

正如王岩所言，智能时代司法定分止争的底层法理在于：若服务提供者已尽到注意义务，则无需承担责任，且不能以技术不可操作或不可预知性为由推卸；而使用AI的当事人，必须为自己的不当输入与诱导发问承担不利后果。

相关文章