《人工智能生成合成內容標識辦法》簡介（中國大陸）

2025年3月7日，國家互聯網信息辦公室、工業和信息化部、公安部、國家廣播電視總局制定並發佈了《人工智能生成合成內容標識辦法》（以下簡稱《辦法》），並規定於2025年9月1日起開始施行。值此《辦法》即將生效之際，為降低相關網絡信息服務提供者的數據合規風險，有必要再簡要回顧一下《辦法》的主要內容：

一、適用主體

根據《辦法》第二條，符合《互聯網信息服務算法推薦管理規定》、《互聯網信息服務深度合成管理規定》、《生成式人工智能服務管理暫行辦法》規定情形的網絡信息服務提供者（以下簡稱“服務提供者”）開展人工智能生成合成內容標識活動，適用該辦法。

在此情形下，所謂的“服務提供者”包括有：提供網絡信息內容傳播服務的服務提供者 ^[1] ；利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等算法技術向用戶提供信息的服務提供者 ^[2] ；利用深度學習、虛擬現實等生成合成類算法製作文本、圖像、音頻、視頻、虛擬場景等網絡信息的深度合成服務提供者 ^[3] ；利用生成式人工智能技術提供生成式人工智能服務（包括通過提供可編程接口等方式提供生成式人工智能服務）的組織、個人等 ^[4] 。

二、標識對象

根據《辦法》第三條，人工智能生成合成內容是指利用人工智能技術生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息。即無論是生成的還是合成的內容，無論是文本、圖片、音頻、視頻還是虛擬場景，都屬標識的對象。

三、標識方法

《辦法》第三條同時指出，標識包括顯式標識和隱式標識兩種方法，顯式標識是指在生成合成內容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現並可以被用戶明顯感知到的標識；隱式標識是指採取技術措施在生成合成內容文件數據中添加的，不易被用戶明顯感知到的標識。此外《辦法》第四條與第五條還指出了需要顯式標識和隱式標識的情形：

（一）需要隱式標識的情形

按照《互聯網信息服務深度合成管理規定》第十六條的規定，深度合成服務提供者對使用其服務生成或者編輯的信息內容，應當採取技術措施添加不影響用戶使用的標識，並依照法律、行政法規和國家有關規定保存日誌信息。即應當按照《辦法》的要求在生成合成內容的文件元數據（指按照特定編碼格式嵌入到文件頭部的描述性信息，用於記錄文件來源、屬性、用途等信息內容）中添加隱式標識。隱式標識包含生成合成內容屬性信息、服務提供者名稱或者編碼、內容編號等製作要素信息。

此外，《辦法》也鼓勵服務提供者在生成合成內容中添加數字水印等形式的隱式標識。

（二）需要顯式標識的情形

服務提供者提供的生成合成服務屬《互聯網信息服務深度合成管理規定》第十七條第一款情形的，需要對生成合成內容添加顯式標識，即深度合成服務提供者提供深度合成服務，可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識，向公眾提示深度合成情況，包括：
1. 智能對話、智能寫作等模擬自然人進行文本的生成或者編輯服務；
2. 合成人聲、仿聲等語音生成或者顯著改變個人身份特徵的編輯服務；
3. 人臉生成、人臉替換、人臉操控、姿態操控等人物圖像、視頻生成或者顯著改變個人身份特徵的編輯服務；
4. 沉浸式擬真場景等生成或者編輯服務；
5. 其他具有生成或者顯著改變信息內容功能的服務。

所謂合理位置、區域，根據《辦法》第四條，是指符合以下要求的位置、區域：
1. 在文本的起始、末尾或者中間適當位置添加文字提示或者通用符號提示等標識，或者在交互場景界面、文字周邊添加顯著的提示標識；
2. 在音頻的起始、末尾或者中間適當位置添加語音提示或者音頻節奏提示等標識，或者在交互場景界面中添加顯著的提示標識；
3. 在圖片的適當位置添加顯著的提示標識；
4. 在視頻起始畫面和視頻播放周邊的適當位置添加顯著的提示標識，可以在視頻末尾和中間適當位置添加顯著的提示標識；
5. 呈現虛擬場景時，在起始畫面的適當位置添加顯著的提示標識，可以在虛擬場景持續服務過程中的適當位置添加顯著的提示標識；
6. 其他生成合成服務場景根據自身應用特點添加顯著的提示標識。

此外，服務提供者提供生成合成內容下載、複製、導出等功能時，應當確保文件中含有滿足要求的顯式標識。

四、主要合規義務

根據《辦法》、《生成式人工智能服務企業合規指引》來看，除服務提供者之外，提供網絡信息內容傳播服務的服務提供者、互聯網應用程序分發平臺以及普通用戶都有一定的標識合規義務，具體情形如下：

（一）未涉及提供網絡信息內容傳播服務的服務提供者
- 根據上述規定進行顯式標識或隱式標識。
- 在用戶服務協議中明確說明生成合成內容標識的方法、樣式等規範內容，並提示用戶仔細閱讀並理解相關的標識管理要求。
- 在用戶要求提供沒有添加顯式標識的生成合成內容時，依法留存提供對象信息等相關日誌不少於六個月。
- 符合相關法律、行政法規、部門規章和強制性國家標準的要求。
- 在履行算法備案、安全評估等手續時，提供生成合成內容標識相關材料，並加強標識信息共享，為防範打擊相關違法犯罪活動提供支持和幫助。

（二）提供網絡信息內容傳播服務的服務提供者
- 檢驗是否含有隱式標識
- 對含有隱式標識的或含有聲明的直接進行標注
- 對疑似生成或合成的內容進行標注
- 提供標識功能，引導用戶進行標識

（三）互聯網應用程序分發平臺
- 在應用程序上架或者上線審核時要求其提供是否具有生成合成功能的說明並進行相應的檢驗

（四）用戶
- 使用網絡信息內容傳播服務發佈生成合成內容的，應當主動聲明並使用服務提供者提供的標識功能進行標識。

此外，任何人不得惡意刪除、篡改、偽造、隱匿《辦法》規定的生成合成內容標識，不得為他人實施上述惡意行為提供工具或者服務，不得通過不正當標識手段損害他人合法權益。

《辦法》沒有規定明確的法律責任，但如有違反《辦法》規定的，由網信、電信、公安和廣播電視等有關主管部門依據職責，按照有關法律、行政法規、部門規章的規定予以處理。建議各類服務提供者及時自查，查漏補缺，以免產生合規風險。
 

---

[1] 《辦法》第六條提出提供網絡信息內容傳播服務的服務提供者應當采取措施規範生成合成內容傳播活動，表明在上述三項規定之外，提供網絡信息內容傳播服務的服務提供者也受《辦法》的管理；
[2] 參見《互聯網信息服務算法推薦管理規定》第二條，在中華人民共和國境內應用算法推薦技術提供互聯網信息服務（以下簡稱算法推薦服務），適用本規定。法律、行政法規另有規定的，依照其規定。
前款所稱應用算法推薦技術，是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調度决策類等算法技術向用戶提供信息。
[3] 參見《互聯網信息服務深度合成管理規定》第二十三條，深度合成技術，是指利用深度學習、虛擬現實等生成合成類算法製作文本、圖像、音頻、視頻、虛擬場景等網絡信息的技術。
[4]  參見《生成式人工智能服務管理暫行辦法》第二十二條，（二）生成式人工智能服務提供者，是指利用生成式人工智能技術提供生成式人工智能服務（包括通過提供可編程接口等方式提供生成式人工智能服務）的組織、個人。