简单分析一些《关于依法审理涉人工智能纠纷案件的意见》中大家最关注的内容

9月7日，最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》。

从AI换脸、声音克隆，到训练数据、开源软件、自动驾驶，再到当事人用AI写诉讼材料，基本把目前常见的AI法律争议都提了一遍。

全文看下来，笔者比较认可的（甚至觉得终于贴合实际了），是它多次要求考虑技术上的可能性、不同主体的控制能力，以及具体的生成过程。

比起之前的那些法律法规，“不知道高到哪里去了”。

按之前的各种规定，既要求AI不能产生任何错误，还要求开发者对所有使用方式负责，最后最“合规”的小厂产品，大概只剩下：

“明日天气？”

“对不起，我无法回答这个问题。”

不过，部分条款如何落地，仍有需要讨论的地方。

下面挑几处与我们日常AI开发、使用关系比较大的内容，结合技术和实际场景聊聊。

（想要全文解答？直接扔给AI或者看别人用AI生成的就行）

* 本文仅为笔者个人观点，不视为任何法律建议。

一、AI出了问题，不代表开发者必然赔钱

第三条明确，法律没有特别规定适用无过错责任或者过错推定责任的，按照民法典第一千一百六十五条第一款规定的过错责任原则认定责任。

其中，判断过错还要考虑：

为预防和减少人工智能侵权所采取的措施及技术上的可能性。

“技术上的可能性”，非常好，制定者真的开始关注实际的AI技术应用和原理了。

一般常见的生成式AI（无论是元宝、豆包、Deepseek这类聊天的，还是各种生图、生视频的）的输出会受到模型、上下文、提示词、采样参数等多种因素影响。同一个问题，换一个上下文，可能就会得到不同答案。

开发者能够通过训练、过滤、限制功能降低风险，但这与能够事先控制每一次输出，是两回事。

AI生成是黑箱的，就算有再多的限制，也没有人能承诺自家AI 100% 不会生成违规内容。

何况还有许多人在孜孜不倦尝试“越狱”/“破甲”呢。

如果只要出现侵权结果，就倒推开发者没有做好审核，本质上仍然是在要求开发者承担 “结果保证”，极大增重了开发者的负担。

《意见》至少明确了，法院需要考虑开发者到底能做什么，具体做到哪个地步。

不过，这也不是说，只要在页面上加一句 “模型生成有随机性”，就可以不管了。

深度一点的潜空间干预（类似数字水印的手段，但主要是干预违规内容的生成概率），浅层一点的直接JS实时审查流输出或者前端文本。

起码做了，才能有证据说“自己已尽责”。

二、个人公开信息现已可以拿来训练

第六条明确，在合理范围内，为模型训练处理个人自行公开或者其他已经合法公开的个人信息，个人未明确拒绝的，一般不认定侵害个人信息权益。

注意，这是 “个人信息”，不是著作权。这次《意见》全文都没有关于自行采集的数据是否免责（不侵犯著作权）的相关规定，估计还要再等等。

个人信息的训练可用性反而先确认，感觉都可以用来说明，各家公司发现 “脱敏训练”还是有一点难度的。

要合法使用个人信息，一共有四个条件：

合法公开、合理范围、个人未明确拒绝，如果对个人权益有重大影响，还应依法取得同意。

简单来说，和AI网页版也好、Agent也好，只要同意了《用户协议》，只要没特地去取消那个“允许用于训练”的开关，在使用AI过程中透露的个人信息，都可以/可能被拿去训练。

从实际而言，在AI沟通中输入了，说明是“合法公开”。

一般输入个人信息也是为了得到相关的处理结果（没人输入个人信息输着玩吧？），满足AI应用的目的和工作范围，说明是“合理范围”。

没取消“允许训练”，所以“个人未明确拒绝”。

剩下就是Agent或者网页版加个判断是重大信息的话，来个“二次确认”，满足“依法取得同意”就行。

当然，根据这条的上下文，用对话声音训练音频模型、用脸生成视频脸模等都是不行的。

只能说这条的核心目的，还是避免模型公司在遇到一些奇奇怪怪、无法常规脱敏的个人信息时处于被动地位。

三、训练时的侵权问题没直接说，但打官司却明确了

虽然没直接说采集、预训练阶段的著作权问题，但推理阶段的诉讼问题倒是给了。

人工智能开发者提出不侵权抗辩的，应当责令其提供训练数据来源、训练过程记录、模型运行模式以及科学理论依据等予以佐证。*

以往讨论AI侵权，开发者经常会解（jiao）释（bian）：模型学习的是统计规律，生成时并不是从数据库中找一张图片复制出来。

合理，有理有据，的确是目前生成式模型的核心工作原理，但还不够。

这个解释不能直接证明某个具体模型、某次生成没有侵权。

模型是否对特定作品形成了记忆（过拟合）？有没有加入针对某个角色训练的微调模型（Lora）？生成过程中是否调用了外部素材（图生图）？

这些都需要结合实际运行情况判断。

“我们都是基于算法生成”，不等于“我们的生成结果不侵犯著作权”。

当然，起诉者也不能直接“拍脑袋”起诉：

权利人主张人工智能提供者利用算法技术侵害其著作权的，应当提供相关证据。

也就是说，权利人需要“有足够证据”先证明自己的拥有相关权利，以及真的存在被诉侵权事实。

不能随便来一句“你训练过大量文本、图片，里面肯定有我的”，就要求对方自证清白。

这一条算是加强了开发者提交技术证据的义务，但也没有直接规定，凡是无法证明算法不侵权，就一律推定侵权。

但实务中如何判断“真的存在侵权”，如何避免“借助起诉来获取对方商业秘密”，估计也足够立案庭和法官头疼。

何况，不是每一个“开发者”都是项目的“完整开发者”。

要求掌握资料的一方提供证据，可以理解。

否则权利人看不到模型内部，开发者又始终不提供资料，案件很难查清。

但落到实务中，问题会复杂不少。

现在一个AI应用，可能使用第三方基础模型，再加载一些第一方或者第三方微调模型，再接入自己的知识库，最后通过应用中预设的系统提示词来控制输出。

应用开发者可能只有知识库资料和调用的记录，但实际并不知道底层模型完整学过什么，微调模型的具体底层算法是什么。（合规而言要备案，但备案了实际也不知道别人底层算法和训练集内容）

个人认为，后续相关案件的审理中，应当先查清各方具体开发了什么、争议发生在哪个环节，再确定需要提交什么资料。

不能直接就要求开发者交出自己根本不掌握的全部模型训练记录。毕竟第十七条明确，无正当理由拒不提交的，法院可以依法作出不利认定。

没有就是没有，还是要讲究实事求是。

四、开源软件被用于违法行为，不再一棒子打死

第十三条提出，要根据许可协议、安全措施、信息披露等因素，给予开源软件开发者、提供者适当的责任豁免。

并列出了一个具体情形：

免费提供部分代码模块，公开说明功能及安全风险，他人使用后导致侵权的，法院可以认定模块开发者、提供者不承担侵权责任。*

太棒了！

毕竟我也开源了一堆东西。

开源组件绝大部分都是为了正常用途而开源的，技术是中立的，本质还是看使用者用来干什么。

语音模型可以生成自己的多国语言音频与其他人交流，也可以被拿去冒充他人；图像模型可以修复照片，也可能被拿去制作侵权内容。

不能因为工具存在被滥用的可能，就要求最初写代码的人，对所有下游行为负责。

尤其代码被下载、本地修改之后，原作者可能连谁在使用都不知道，更不要说远程阻止。

可惜，相关案例已经太多太多了，被罚的开源作者也已经太多太多了。

这次《意见》难免也有为越来越多Vibe Coding产品兜底的意味，毕竟连发布者也不一定知道自己Vibe了什么出来，具体产品的边界可以去到哪里。

但本条也不能直接机械理解成：

“上传GitHub，一键免责。”

条文里面提到的是，“开源组件”有可能免责。

但如果开源仓库作者已经把组件组合成特定侵权工具，参与运营、引流，甚至只是在README中写这个仓库的组件变成侵权工具的可能性，则仍要根据具体行为判断。

五、AI侵权，要深挖底层

第十八条要求，审查AI生成内容作为侵权证据时，要考虑提示词的影响、相似程度、重复测试的一致性，以及模型训练、算法设计、过滤机制等因素。

这部分，笔者非常认可。

判断AI侵权，生成过程本来就应该成为审查重点。

例如，同样生成了一张与某游戏角色非常相似的图片，可能存在完全不同的过程：

可能是用户只输入了普通人物描述；可能是用户输入了足够详细的“小作文”级别描述，把这个角色的方方面面都完整描述了出来（锚定了“可能性”）；可能用户明确要求生成该游戏角色；也可能用户上传了原图，要求保留人物、只替换背景。

最终图片可能都达到了“很像”的标准，但究竟是谁提供了相关内容、谁控制了生成方向，对开发者、平台和使用者的责任判断都有影响。

尤其在图生图、参考图控制、附加微调模型等功能参与后，单独看成品，往往无法判断侵权内容来自哪里。

保留用户生成日志，非常重要。

六、每个人都是AI的第一责任人

最后，第十九条还专门提到了诉讼文书、案例检索报告等材料，使用AI技术的问题。

如果使用AI生成了相关诉讼材料，在提交法庭前应当核实法律、司法解释、案例的真实性和准确性，提交时还应说明AI辅助使用情况，并依法承担责任。

完全支持。

要注意这条限制的是“诉讼参与人”，因此不单单是律师，各位如果要自己利用AI起诉和应诉，同样会被这条限制。

AI生成一个不存在的法条，附上对应的虚假案号，再用“最直白、最直接、最不绕弯子、最硬核、最干脆、最一针见血”的方式写一个看起来十分专业的裁判理由，然后再拿去交给法官。

以后，可能会被罚哦。

还是要多加心眼，辨别一下模型输出，或者用一些好一点的模型。

不过，AI辅助使用情况具体说明到什么程度，仍需要在实践中具体细化。

整篇生成诉状，与只用AI调整语序、检查错别字，介入程度显然不同。说明方式最好能够帮助法庭判断材料可靠性，而不是单纯增加一套没有实际作用的手续。

毕竟，AI 已经无处不在。

甚至，未来可能无人不用。

谁又会写“这份文档是由Word/WPS制作”呢？