December 30, 2025
人工智能技術應用合規提示（一） — 人工智能合規體系概述（中國大陸）
近年來，人工智能技術應用在全球迅速發展，以前所未有的速度、廣度和深度改變著人類的生產生活，對全球經濟發展、科技創新、民生福祉和國際政治格局也產生了重大而深遠的影響。就中國來說，隨著各地對於《國務院關於深入實施“人工智能+”行動的意見》的貫徹實施，我國的人工智能產業發展也達到了一個新高度。據報導，我國已形成覆蓋基礎層、框架層、模型層、應用層的完備人工智能產業體系，產業規模超9000億元，企業數量超過6000家，整體位居世界前列，發展優勢日益顯現。
[1]
而與此同時需要注意到的是，在人工智能技術產業落地時的安全治理路徑並不十分清晰，如針對人工智能技術使用過程中哪些會造成侵權問題，哪些是違反法律的行為，司法實踐中尚待確立統一標準，企業也尚未形成清晰的合規意識。因此有必要在此提醒從業者其中的法律風險，以助力從業者在人工智能發展浪潮中走得更穩健，更遠。
就整體而言，人工智能技術應用實際上會面臨多方面的合規問題。從演算法的設計，模型的使用與訓練，數據的處理，以及內容的生成等等各個環節都有可能遇到法律風險。本系列文章也擬從這幾個角度展開討論，希望能對從業者有所啟發。
就演算法來說，目前相關的法律規定主要涉及《中華人民共和國網絡安全法》、《互聯網信息服務管理辦法》、《關於加強互聯網信息服務演算法綜合治理的指導意見》、《互聯網信息服務演算法推薦管理規定》、《互聯網信息服務深度合成管理規定》等。就合規義務來說，涉及到演算法推薦的服務提供者至少要在三個方面做到合規：1）落實安全主體責任；2）管理信息安全；3）保護用戶權益。本文將在後續文章中展開闡述。
就數據保護來說，主要涉及到的法律規定包括《數據安全法》、《個人信息保護法》、《生成式人工智能服務管理暫行辦法》等。在模型的訓練中，現有人工智能技術的應用可能會涉及到數據的處理問題。進一步來說，可能會涉及到數據的收集和數據的傳輸。就數據的收集來說，數據來源是否合法、數據取得是否獲得了同意等問題都將是人工智能合規需要考慮的問題。本文也將在後續文章中展開闡述。
就人工智能生成的內容來說，目前主要涉及的問題是人工智能生成的內容是否具有可版權性以及人工智能生成的內容是否會造成侵權？此外還包括人工智能生成的內容是否合法的問題。即一方面需要從輸入端考慮是否合法，另一方面也需要從輸出端考慮是否合法。就人工智能的內容生成來說，目前我國有《生成式人工智能管理服務辦法》，還有《生成式人工智能服務安全基本要求》等一系列的法律，同時也需參考《著作權法》、《反不正當競爭法》以及《民法典》的規制。本文也將在後文中進行討論。
從法律責任的角度來說，人工智能違法行為一般會涉及到民事、行政以及刑事的責任。如上海市網信辦近期也開展了“亮劍浦江·2025”專項執法行動，將整治AI濫用作為年度治理重點。行動期間，指導應用商店下線54款違規APP，對26家網站進行巡查，對3家拒不整改網站立案處罰，並督促5家首違企業下線違規功能，指導其進行備案工作。 [2]
總而言之，企業的發展雖然要注意把握機遇，但同時也需要注意相應的法律風險。人工智能技術的應用雖然面對的都是新問題，但涉及的法律關係在目前的法律框架下還足以解釋，因此企業切不可因快速發展而對合規問題掉以輕心。
[1] 十五五·系列談 | 中國信通院魏凱：奮進“十五五”新征程 譜寫人工智能發展新篇章https://mp.weixin.qq.com/s/nPXUAi9Cdkf8wN2HdfcipA
[2] 亮劍浦江 | 整治濫用 護航發展 上海市網信辦開展“AI濫用”專項執法工作https://mp.weixin.qq.com/s/rO8DnpkrDlCqVyigrM0CAg
就整體而言，人工智能技術應用實際上會面臨多方面的合規問題。從演算法的設計，模型的使用與訓練，數據的處理，以及內容的生成等等各個環節都有可能遇到法律風險。本系列文章也擬從這幾個角度展開討論，希望能對從業者有所啟發。
就演算法來說，目前相關的法律規定主要涉及《中華人民共和國網絡安全法》、《互聯網信息服務管理辦法》、《關於加強互聯網信息服務演算法綜合治理的指導意見》、《互聯網信息服務演算法推薦管理規定》、《互聯網信息服務深度合成管理規定》等。就合規義務來說，涉及到演算法推薦的服務提供者至少要在三個方面做到合規：1）落實安全主體責任；2）管理信息安全；3）保護用戶權益。本文將在後續文章中展開闡述。
就數據保護來說，主要涉及到的法律規定包括《數據安全法》、《個人信息保護法》、《生成式人工智能服務管理暫行辦法》等。在模型的訓練中，現有人工智能技術的應用可能會涉及到數據的處理問題。進一步來說，可能會涉及到數據的收集和數據的傳輸。就數據的收集來說，數據來源是否合法、數據取得是否獲得了同意等問題都將是人工智能合規需要考慮的問題。本文也將在後續文章中展開闡述。
就人工智能生成的內容來說，目前主要涉及的問題是人工智能生成的內容是否具有可版權性以及人工智能生成的內容是否會造成侵權？此外還包括人工智能生成的內容是否合法的問題。即一方面需要從輸入端考慮是否合法，另一方面也需要從輸出端考慮是否合法。就人工智能的內容生成來說，目前我國有《生成式人工智能管理服務辦法》，還有《生成式人工智能服務安全基本要求》等一系列的法律，同時也需參考《著作權法》、《反不正當競爭法》以及《民法典》的規制。本文也將在後文中進行討論。
從法律責任的角度來說，人工智能違法行為一般會涉及到民事、行政以及刑事的責任。如上海市網信辦近期也開展了“亮劍浦江·2025”專項執法行動，將整治AI濫用作為年度治理重點。行動期間，指導應用商店下線54款違規APP，對26家網站進行巡查，對3家拒不整改網站立案處罰，並督促5家首違企業下線違規功能，指導其進行備案工作。 [2]
總而言之，企業的發展雖然要注意把握機遇，但同時也需要注意相應的法律風險。人工智能技術的應用雖然面對的都是新問題，但涉及的法律關係在目前的法律框架下還足以解釋，因此企業切不可因快速發展而對合規問題掉以輕心。
[1] 十五五·系列談 | 中國信通院魏凱：奮進“十五五”新征程 譜寫人工智能發展新篇章https://mp.weixin.qq.com/s/nPXUAi9Cdkf8wN2HdfcipA
[2] 亮劍浦江 | 整治濫用 護航發展 上海市網信辦開展“AI濫用”專項執法工作https://mp.weixin.qq.com/s/rO8DnpkrDlCqVyigrM0CAg
本網頁上所有上海理慈法律新知資料內容（「內容」）均屬上海理慈律師事務所所有。上海理慈保留所有權利，除非獲得上海理慈事前許可外，均不得以任何形式或以任何方式重製、下載、散布、發行或移轉本網頁上之內容。
所有內容僅供作參考且非為特定議題或具體個案之法律或專業建議。所有內容未必為最新法律及法規之發展，上海理慈及其編輯群不保證內容之正確性，並明示聲明不須對任何人就信賴使用本網頁上全部或部分之內容，而據此所為或經許可而為或略而未為之結果負擔任何及全部之責任。撰稿作者之觀點不代表上海理慈之立場。如有任何建議或疑義，請與上海理慈聯繫。
