December 30, 2025
人工智能技术应用合规提示（一） — 人工智能合规体系概述（中国大陆）
近年来，人工智能技术应用在全球迅速发展，以前所未有的速度、广度和深度改变着人类的生产生活，对全球经济发展、科技创新、民生福祉和国际政治格局也产生了重大而深远的影响。就中国来说，随着各地对于《国务院关于深入实施“人工智能+”行动的意见》的贯彻实施，我国的人工智能产业发展也达到了一个新高度。据报道，我国已形成覆盖基础层、框架层、模型层、应用层的完备人工智能产业体系，产业规模超9000亿元，企业数量超过6000家，整体位居世界前列，发展优势日益显现。
[1]
而与此同时需要注意到的是，在人工智能技术产业落地时的安全治理路径并不十分清晰，如针对人工智能技术使用过程中哪些会造成侵权问题，哪些是违反法律的行为，司法实践中尚待确立统一标准，企业也尚未形成清晰的合规意识。因此有必要在此提醒从业者其中的法律风险，以助力从业者在人工智能发展浪潮中走得更稳健，更远。
就整体而言，人工智能技术应用实际上会面临多方面的合规问题。从算法的设计，模型的使用与训练，数据的处理，以及内容的生成等等各个环节都有可能遇到法律风险。本系列文章也拟从这几个角度展开讨论，希望能对从业者有所启发。
就算法来说，目前相关的法律规定主要涉及《中华人民共和国网络安全法》、《互联网信息服务管理办法》、《关于加强互联网信息服务算法综合治理的指导意见》、《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》等。就合规义务来说，涉及到算法推荐的服务提供者至少要在三个方面做到合规：1）落实安全主体责任；2）管理信息安全；3）保护用户权益。本文将在后续文章中展开阐述。
就数据保护来说，主要涉及到的法律规定包括《数据安全法》、《个人信息保护法》、《生成式人工智能服务管理暂行办法》等。在模型的训练中，现有人工智能技术的应用可能会涉及到数据的处理问题。进一步来说，可能会涉及到数据的收集和数据的传输。就数据的收集来说，数据来源是否合法、数据取得是否获得了同意等问题都将是人工智能合规需要考虑的问题。本文也将在后续文章中展开阐述。
就人工智能生成的内容来说，目前主要涉及的问题是人工智能生成的内容是否具有可版权性以及人工智能生成的内容是否会造成侵权？此外还包括人工智能生成的内容是否合法的问题。即一方面需要从输入端考虑是否合法，另一方面也需要从输出端考虑是否合法。就人工智能的内容生成来说，目前我国有《生成式人工智能管理服务办法》，还有《生成式人工智能服务安全基本要求》等一系列的法律，同时也需参考《著作权法》、《反不正当竞争法》以及《民法典》的规制。本文也将在后文中进行讨论。
从法律责任的角度来说，人工智能违法行为一般会涉及到民事、行政以及刑事的责任。如上海市网信办近期也开展了“亮剑浦江·2025”专项执法行动，将整治AI滥用作为年度治理重点。行动期间，指导应用商店下线54款违规APP，对26家网站进行巡查，对3家拒不整改网站立案处罚，并督促5家首违企业下线违规功能，指导其进行备案工作。 [2]
总而言之，企业的发展虽然要注意把握机遇，但同时也需要注意相应的法律风险。人工智能技术的应用虽然面对的都是新问题，但涉及的法律关系在目前的法律框架下还足以解释，因此企业切不可因快速发展而对合规问题掉以轻心。
[1] 十五五·系列谈 | 中国信通院魏凯：奋进“十五五”新征程 谱写人工智能发展新篇章https://mp.weixin.qq.com/s/nPXUAi9Cdkf8wN2HdfcipA
[2] 亮剑浦江 | 整治滥用 护航发展 上海市网信办开展“AI滥用”专项执法工作https://mp.weixin.qq.com/s/rO8DnpkrDlCqVyigrM0CAg
就整体而言，人工智能技术应用实际上会面临多方面的合规问题。从算法的设计，模型的使用与训练，数据的处理，以及内容的生成等等各个环节都有可能遇到法律风险。本系列文章也拟从这几个角度展开讨论，希望能对从业者有所启发。
就算法来说，目前相关的法律规定主要涉及《中华人民共和国网络安全法》、《互联网信息服务管理办法》、《关于加强互联网信息服务算法综合治理的指导意见》、《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》等。就合规义务来说，涉及到算法推荐的服务提供者至少要在三个方面做到合规：1）落实安全主体责任；2）管理信息安全；3）保护用户权益。本文将在后续文章中展开阐述。
就数据保护来说，主要涉及到的法律规定包括《数据安全法》、《个人信息保护法》、《生成式人工智能服务管理暂行办法》等。在模型的训练中，现有人工智能技术的应用可能会涉及到数据的处理问题。进一步来说，可能会涉及到数据的收集和数据的传输。就数据的收集来说，数据来源是否合法、数据取得是否获得了同意等问题都将是人工智能合规需要考虑的问题。本文也将在后续文章中展开阐述。
就人工智能生成的内容来说，目前主要涉及的问题是人工智能生成的内容是否具有可版权性以及人工智能生成的内容是否会造成侵权？此外还包括人工智能生成的内容是否合法的问题。即一方面需要从输入端考虑是否合法，另一方面也需要从输出端考虑是否合法。就人工智能的内容生成来说，目前我国有《生成式人工智能管理服务办法》，还有《生成式人工智能服务安全基本要求》等一系列的法律，同时也需参考《著作权法》、《反不正当竞争法》以及《民法典》的规制。本文也将在后文中进行讨论。
从法律责任的角度来说，人工智能违法行为一般会涉及到民事、行政以及刑事的责任。如上海市网信办近期也开展了“亮剑浦江·2025”专项执法行动，将整治AI滥用作为年度治理重点。行动期间，指导应用商店下线54款违规APP，对26家网站进行巡查，对3家拒不整改网站立案处罚，并督促5家首违企业下线违规功能，指导其进行备案工作。 [2]
总而言之，企业的发展虽然要注意把握机遇，但同时也需要注意相应的法律风险。人工智能技术的应用虽然面对的都是新问题，但涉及的法律关系在目前的法律框架下还足以解释，因此企业切不可因快速发展而对合规问题掉以轻心。
[1] 十五五·系列谈 | 中国信通院魏凯：奋进“十五五”新征程 谱写人工智能发展新篇章https://mp.weixin.qq.com/s/nPXUAi9Cdkf8wN2HdfcipA
[2] 亮剑浦江 | 整治滥用 护航发展 上海市网信办开展“AI滥用”专项执法工作https://mp.weixin.qq.com/s/rO8DnpkrDlCqVyigrM0CAg
本网页上所有上海理慈法律新知资料内容（「内容」）均属上海理慈律师事务所所有。上海理慈保留所有权利，除非获得上海理慈事前许可外，均不得以任何形式或以任何方式重制、下载、散布、发行或移转本网页上之内容。
所有内容仅供作参考且非为特定议题或具体个案之法律或专业建议。所有内容未必为最新法律及法规之发展，上海理慈及其编辑群不保证内容之正确性，并明示声明不须对任何人就信赖使用本网页上全部或部分之内容，而据此所为或经许可而为或略而未为之结果负担任何及全部之责任。撰稿作者之观点不代表上海理慈之立场。如有任何建议或疑义，请与上海理慈联系。
