展开目录
#AI治理#政策#司法#AI安全#AI换脸#AI幻觉

最高法发布首部 AI 司法裁判规则:AI 换脸、AI 幻觉、大数据杀熟、开盒都有「说法」了

9月7日,最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》——5部分24条,覆盖AI换脸拟声、AI幻觉侵权、网络开盒、大数据杀熟、自动驾驶、AI训练数据与著作权等场景。这是首部由国家最高审判机构发布的涉AI裁判规则,普通人、开发者与AI企业将同时迎来更明确的权责边界。

预计阅读 1 分钟

一句话总结

2026 年 9 月 7 日,最高人民法院发布 《关于依法审理涉人工智能纠纷案件的意见》——共 5 个部分 24 条,首次由国家最高审判机构明确了 AI 换脸拟声、AI 幻觉侵权、网络开盒、大数据杀熟、AI 训练数据、AI 生成内容著作权等场景的实体裁判规则与诉讼程序规则。普通人维权有据可依,开发者与平台的责任边界第一次被画得这么清楚。

数据来源

  • 中国青年报《最高法发布首部涉人工智能司法裁判规则文件》(2026-09-08)
  • 新华社权威快报《最高法发文明确「AI换脸拟声」等案件裁判规则》(2026-09-07)
  • 最高人民法院 2026-09-07 发布会(副院长陶凯元、研究室主任周加海、研究室副主任司艳丽、民三庭庭长李剑答记者问)

背景:AI 纠纷为什么到了「非管不可」的时候

过去两年,AI 从「聊天工具」变成了深度嵌入生活的基础设施:AI 换脸视频可以在几秒钟内生成,AI 克隆的声音可以以假乱真地借钱,电商平台用算法对不同用户报出不同价格,大模型「一本正经地胡说八道」侵害名誉……技术门槛骤降,侵权成本趋近于零,而损害一旦扩散就难以逆转。

与此同时,法院手里的案子越来越棘手:责任主体是谁——开发者、平台还是使用者?过错怎么认定——AI 自动生成的侵权内容,算谁的?证据从哪来——模型内部对用户和法官都是黑箱?

《意见》就是在这样的背景下出台的。最高法副院长陶凯元在发布会上表示,这是首部由国家最高审判机构发布的涉人工智能司法裁判规则文件,是为促进全球 AI 向上向善发展贡献的「中国司法智慧」。

最高法发布首部涉人工智能司法裁判规则文件——新华社权威快报海报(来源:新华社)

《意见》是什么:5 部分 24 条的规则框架

《意见》确立了审理涉 AI 纠纷案件的三条基本原则——以人为本、支持创新发展、筑牢安全防线,强调发展和安全并重、促进创新和依法治理相结合。五个部分覆盖了从人格权益到知识产权的完整链条:

《意见》五部分结构与三条基本原则

图注:24 条规则分布在五个部分,最重的笔墨落在人格权益保护与算法公平上——这两块正是普通用户最容易「中招」的领域。

人格权益:AI 换脸拟声的「四道红线」

最高法研究室副主任司艳丽介绍,《意见》第 4 条对滥用 AI 侵害人格权益的行为作出了针对性规定,可以概括为四条红线:

  • 虚拟数字形象:未经同意用 AI 处理他人姓名、肖像,生成可识别该自然人的虚拟数字形象并使用、公开 → 构成对姓名权、肖像权的侵害;
  • 合成人声:未经同意用自然人声音作训练语料,模仿其音色、语调、发音风格生成可识别的合成人声 → 构成对声音权益的侵害;
  • 操控形象与声音:操控虚拟形象、合成声音实施不当行为或发表不实言论、降低他人社会评价 → 构成对名誉权的侵害;
  • 「AI 复活逝者」:专门作出规定,依法保护死者的人格利益。

人格权益保护的「四道红线」与禁令救济

值得注意的还有第 8 条的人格权侵害禁令制度——因为 AI 侵权具有成本低、传播快、影响广、损害难以逆转的特点,传统「事后起诉」的救济太慢了。司艳丽举例:受害者有证据证明被 AI 换脸造「黄谣」、不及时制止将遭受难以弥补损害的,可以直接向法院申请人格权侵害禁令。法院既可以责令网络用户停止侵权,也可以责令网络服务提供者、AI 服务提供者及时采取必要措施,把损害摁在扩散之前。

算法公平:大数据杀熟与「仿冒名人带货」

算法黑箱最容易伤害普通消费者。「我们不能奢求消费者都『火眼金睛』,法律必须及时亮剑。」最高法研究室主任周加海如此表态,《意见》明确:

  • 大数据杀熟:针对同一商品或服务,经营者利用算法在交易价格等交易条件上实行不合理的差别待遇,侵害他人合法权益造成损害的 → 法院应依法认定其承担侵权责任;
  • 仿冒名人带货:利用 AI 仿冒名人带货且构成欺诈,消费者主张惩罚性赔偿的 → 法院依法予以支持。

训练数据:公开个人信息的「合理使用」边界

AI 训练到底能不能用网上的公开个人信息?这是全球 AI 产业与个人隐私博弈的焦点。《意见》给了一个平衡方案:

为 AI 模型训练,在合理范围内处理已合法公开的个人信息,且个人未明确拒绝的,一般不认定为侵权;但对个人权益有重大影响的,应当依照法律规定取得个人同意。

也就是说:爬公开数据训练模型原则上不「一刀切」算侵权,但「合理范围」和「重大影响」两个闸门留下了个案裁量的空间——既给产业发展留出通道,也给个人信息保护兜底。

AI 幻觉与恶意诱导:责任链条这样分

大模型自己「编造」内容侵害他人权益,谁来负责?用户故意输入侵权提示词诱导模型生成,责任又怎么算?《意见》把责任链条拆成了三截:

AI 幻觉与恶意诱导的责任认定流程

  • AI 自动生成侵权内容:经权利人通知,AI 服务提供者未及时采取停止生成侵权内容等必要措施的 → 对扩大的损害依法承担侵权责任(即「通知-必要措施」避风港逻辑,与平台责任一脉相承);
  • 用户恶意诱导:网络用户通过输入侵权提示词等方式恶意诱导 AI 生成侵权内容并造成他人损害的 → 该用户依法承担侵权责任,诱导者别想躲在模型背后;
  • 服务提供者连带:经权利人通知,服务提供者未及时采取停止生成、屏蔽相关生成指令等必要措施的 → 权利人请求该用户服务提供者承担民事责任的,法院依法支持。

著作权:AI 生成不能免责,举证责任这么分

AI 生成内容侵权案件里,最棘手的是责任主体举证两个问题。最高法民三庭庭长李剑介绍:

第一,AI 生成不能成为免责理由。 被诉侵权内容是 AI 生成的,不能因此免除相关主体责任;责任承担要与控制能力、注意义务相匹配。判断时要综合考虑:涉案 AI 的技术和商业模式特点、当事人在内容生成过程中发挥的作用、训练数据由哪方「投喂」、采取的必要措施、获利情况等。

第二,举证责任做了特殊分配。 AI 技术具有复杂性和不透明性,相关证据「非他人可以获取」,所以:

  • 权利人只需就初步事实举证:侵权内容是由该 AI 生成的、与权利作品构成实质相似;
  • 开发者提出不侵权抗辩的,应当就训练数据来源、训练过程、运行模式等事实举证,必要时还要提供科学理论依据佐证;
  • 使用者知道或应当知道在先作品,利用 AI 生成与在先作品实质相似的作品,且无合理使用等免责事由的 → 认定构成侵权。

两大「暂不作规定」的悬念

李剑透露,《意见》起草论证过程中,有两个问题意见分歧很大、认识有待深化,因此暂不作规定:一是 AI 生成内容的可版权性(AI 画的图、写的文章算不算「作品」);二是未经许可使用他人作品训练 AI 大模型的定性(训练到底算不算侵权)。这两题将留给司法实践不断探索——换句话说,全球版权大战最核心的两颗雷,中国最高法选择先「观察再拆」。

对三类人的影响

  • 普通人:被 AI 换脸、被克隆声音、被「复活」、被大数据杀熟,都有了明确的起诉依据和更快的禁令救济;维权时注意留存「AI 生成」与「通知平台」的证据链。
  • AI 开发者与平台:「通知-必要措施」义务、训练数据的合理使用边界、不侵权抗辩的举证责任(训练数据来源/过程/运行模式)——合规体系需要把数据来源留痕内容生成拦截机制做到位。
  • 内容创作者:AI 生成内容不能免责、诱导生成要担责——「提示词是我写的,模型自己发挥的」不再是无责挡箭牌。

总结

这份《意见》的意义,不在于「判了几个案子」,而在于把 AI 纠纷从**「无法可依的灰色地带」推进到了「有规则可循的赛车道」**:

  • 人格权益四道红线 + 禁令制度,回应了深度伪造带来的最紧迫伤害;
  • 大数据杀熟、仿冒带货明确侵权责任,给消费者撑腰;
  • 训练数据「合理使用 + 重大影响需同意」的平衡方案,是给产业界的定心丸;
  • AI 生成不免责 + 举证责任分配,则是对「黑箱甩锅」的正面回应;
  • 可版权性、训练数据定性两大悬念留给实践,说明司法对技术演进保持审慎。

对中国的 AI 用户和开发者来说,这是 2026 年最重要的一份「AI 使用说明书」——它告诉我们:技术可以跑得很快,但规则必须跟得上;而规则一旦落地,创新与维权的成本结构都会被重新书写。


图片来源:新华社权威快报(最高法发布会海报)。内容依据中国青年报、新华社报道整理,具体条文以《关于依法审理涉人工智能纠纷案件的意见》原文为准。

Related

相关文章

延伸阅读

查看全部 →
AI安全

阿莫代伊发文《We Must Pace the Frontier》:Anthropic 单方面承诺「嵌入式评估员」,Altman 说同意,Musk 说 Dario 是对的

2026 年 9 月,Anthropic CEO 达里奥·阿莫代伊发表长文《We Must Pace the Frontier》,首次把「放慢前沿能力进步」提为具体方案:三步走——嵌入式第三方评估员、民主国家内部协调、全球协调,Anthropic 单方面承诺第一步。两件事让他改主意:递归自我改进加速,以及 OpenAI-Hugging Face 的 Agent 蜂群越界事件。Sam Altman 表示同意,Elon Musk 说「Dario 是对的」,也有记者批评这是「监管俘获」。

OpenAI

GPT-6 Astra 需求爆表:OpenAI 暂停 200 美元 Pro 新订阅,Altman 说 2026 年不上市

9 月 3 日发布的 GPT-6 Astra 需求「前所未有」,OpenAI 在 9 月 10 日暂停了 200 美元 ChatGPT Pro 的新订阅——Go、Plus 与 API 不受影响。三天后,Sam Altman 又说「考虑到安全方面正在发生的一切,现在上市是不明智的时机」,被追问是否指 2026 年时回答「不是 2026,对」。一个模型,同时顶住了 OpenAI 的产能与 IPO 时间表。

DeepSeek

DeepSeek-V4.1-Flash 发布:552B 参数只激活 8B,KV 缓存砍到 1/4,Agent 账单降了七成

9 月 10 日,DeepSeek 上线 DeepSeek-V4.1-Flash:552B 参数的 MoE 新架构,输入侧只激活 8B、输出侧 16B,KV 缓存压到上一代的 1/4(HBM)与 1/8(SSD),缓存命中低至 0.003 美元/百万 token。峰值输入价格从 V4-Pro 的 1.32 美元降到 0.30 美元,并发从 500 提到 2,500,官方称已全面超越 V4-Pro。