《人工智能生成合成内容标识办法》简介（中国大陆）

2025年3月7日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局制定并发布了《人工智能生成合成内容标识办法》（以下简称《办法》），并规定于2025年9月1日起开始施行。值此《办法》即将生效之际，为降低相关网络信息服务提供者的数据合规风险，有必要再简要回顾一下《办法》的主要内容：

一、适用主体

根据《办法》第二条，符合《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者（以下简称“服务提供者”）开展人工智能生成合成内容标识活动，适用该办法。

在此情形下，所谓的“服务提供者”包括有：提供网络信息内容传播服务的服务提供者 ^[1] ；利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息的服务提供者 ^[2] ；利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的深度合成服务提供者 ^[3] ；利用生成式人工智能技术提供生成式人工智能服务（包括通过提供可编程接口等方式提供生成式人工智能服务）的组织、个人等 ^[4] 。

二、标识对象

根据《办法》第三条，人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。即无论是生成的还是合成的内容，无论是文本、图片、音频、视频还是虚拟场景，都属于标识的对象。

三、标识方法

《办法》第三条同时指出，标识包括显式标识和隐式标识两种方法，显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识；隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。此外《办法》第四条与第五条还指出了需要显式标识和隐式标识的情形：

（一）需要隐式标识的情形

按照《互联网信息服务深度合成管理规定》第十六条的规定，深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依照法律、行政法规和国家有关规定保存日志信息。即应当按照《办法》的要求在生成合成内容的文件元数据（指按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途等信息内容）中添加隐式标识。隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。

此外，《办法》也鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。

（二）需要显式标识的情形

服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的，需要对生成合成内容添加显式标识，即深度合成服务提供者提供深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况，包括：
1. 智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务；
2. 合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务；
3. 人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务；
4. 沉浸式拟真场景等生成或者编辑服务；
5. 其他具有生成或者显著改变信息内容功能的服务。

所谓合理位置、区域，根据《办法》第四条，是指符合以下要求的位置、区域：
1. 在文本的起始、末尾或者中间适当位置添加文字提示或者通用符号提示等标识，或者在交互场景界面、文字周边添加显著的提示标识；
2. 在音频的起始、末尾或者中间适当位置添加语音提示或者音频节奏提示等标识，或者在交互场景界面中添加显著的提示标识；
3. 在图片的适当位置添加显著的提示标识；
4. 在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可以在视频末尾和中间适当位置添加显著的提示标识；
5. 呈现虚拟场景时，在起始画面的适当位置添加显著的提示标识，可以在虚拟场景持续服务过程中的适当位置添加显著的提示标识；
6. 其他生成合成服务场景根据自身应用特点添加显著的提示标识。

此外，服务提供者提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识。

四、主要合规义务

根据《办法》、《生成式人工智能服务企业合规指引》来看，除服务提供者之外，提供网络信息内容传播服务的服务提供者、互联网应用程序分发平台以及普通用户都有一定的标识合规义务，具体情形如下：

（一）未涉及提供网络信息内容传播服务的服务提供者
- 根据上述规定进行显式标识或隐式标识。
- 在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。
- 在用户要求提供没有添加显式标识的生成合成内容时，依法留存提供对象信息等相关日志不少于六个月。
- 符合相关法律、行政法规、部门规章和强制性国家标准的要求。
- 在履行算法备案、安全评估等手续时，提供生成合成内容标识相关材料，并加强标识信息共享，为防范打击相关违法犯罪活动提供支持和帮助。

（二）提供网络信息内容传播服务的服务提供者
- 检验是否含有隐式标识
- 对含有隐式标识的或含有声明的直接进行标注
- 对疑似生成或合成的内容进行标注
- 提供标识功能，引导用户进行标识

（三）互联网应用程序分发平台
- 在应用程序上架或者上线审核时要求其提供是否具有生成合成功能的说明并进行相应的检验

（四）用户
- 使用网络信息内容传播服务发布生成合成内容的，应当主动声明并使用服务提供者提供的标识功能进行标识。

此外，任何人不得恶意删除、篡改、伪造、隐匿《办法》规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。

《办法》没有规定明确的法律责任，但如有违反《办法》规定的，由网信、电信、公安和广播电视等有关主管部门依据职责，按照有关法律、行政法规、部门规章的规定予以处理。建议各类服务提供者及时自查，查漏补缺，以免产生合规风险。
 

---

[1] 《办法》第六条提出提供网络信息内容传播服务的服务提供者应当采取措施规范生成合成内容传播活动，表明在上述三项规定之外，提供网络信息内容传播服务的服务提供者也受《办法》的管理：
[2] 参见《互联网信息服务算法推荐管理规定》第二条，在中华人民共和国境内应用算法推荐技术提供互联网信息服务（以下简称算法推荐服务），适用本规定。法律、行政法规另有规定的，依照其规定。
前款所称应用算法推荐技术，是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。
[3] 参见《互联网信息服务深度合成管理规定》第二十三条，深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。
[4] 参见《生成式人工智能服务管理暂行办法》第二十二条，（二）生成式人工智能服务提供者，是指利用生成式人工智能技术提供生成式人工智能服务（包括通过提供可编程接口等方式提供生成式人工智能服务）的组织、个人。