人工智能技术应用合规提示（二） — 算法合规（中国大陆）

上一篇中，我们概括性地探讨了人工智能技术应用中可能面临的合规问题，本文将主要分析一下在应用算法技术时，相关主体可能面临的合规义务与法律风险。

一、算法技术包括哪些技术？
根据《互联网信息服务算法推荐管理规定》（以下简称“《规定》”）第二条，算法推荐技术，是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。即，任何主体在中华人民共和国境内应用上述技术提供互联网信息服务（以下简称算法推荐服务），适用该规定，应遵守该规定所设定的合规义务。

二、算法合规义务包括哪些内容？
根据《互联网信息服务算法推荐管理规定》，算法推荐服务企业需履行的合规义务一般来说可分为六大类别：

（一）基础运营合规义务
这是企业开展算法推荐服务的基本准则，涵盖主体责任落实、算法全生命周期管理、从业原则遵循等基础要求，是所有合规义务的前提。具体来说主要包括以下等内容：

1、遵循法定原则：遵守法律法规，恪守社会公德、商业道德，坚持公正公平、公开透明、科学合理和诚实信用原则（第四条）。
2、落实主体责任：建立健全算法机制机理审核、科技伦理审查、数据安全和个人信息保护、反电信网络诈骗、安全事件应急处置等全流程管理制度和技术措施；制定并公开算法推荐服务规则，配备与服务规模匹配的专业人员和技术支撑（第七条）。
3、定期算法审核：对算法的机制机理、模型、数据及应用结果开展定期审核、评估、验证，不得设置诱导用户沉迷、过度消费等违规算法模型（第八条）。
4、行业自律配合：积极配合相关行业组织的自律管理，完善自身服务规范，接受社会监督（第五条）。

（二）信息服务管控合规义务
该项义务主要聚焦算法推荐的信息内容治理，核心是规范信息生成、推送、管理全流程，坚守主流价值导向，防范违法和不良信息传播。即算法推荐服务提供者需要做到：

1、坚持主流价值导向：优化算法机制，积极传播正能量，防范和抵制不良信息，不得利用算法传播违法信息或从事危害国家安全、社会公共利益的活动（第六条）。
2、信息安全管理：建立违法和不良信息特征库，完善识别标准；对算法生成合成信息作显著标识后再传输；发现违法信息立即停止传输、消除并报告，发现不良信息按规定处置（第九条）。
3、用户标签与模型管理：完善用户兴趣点和标签管理规则，不得将违法、不良信息关键词记入用户标签或据以推送信息（第十条）。
4、版面页面生态管理：在首页首屏、热搜、榜单、弹窗等重点环节呈现主流价值信息，建立人工干预和用户自主选择机制（第十一条）。
5、优化算法透明度：综合运用内容去重、打散干预等策略，提升算法检索、排序、推送等规则的透明度和可解释性（第十二条）。
6、新闻信息服务特殊要求：提供互联网新闻信息服务的，需取得相应许可，不得生成合成虚假新闻，不得传播非合规单位发布的新闻信息（第十三条）。

（三）用户权益保护合规义务
该项义务是指算法推荐服务提供者需要以用户权利为核心，包括算法信息公示、用户自主选择权保障，以及对未成年人、老年人、劳动者、消费者等特殊群体的专项权益保护，同时要求建立完善的投诉申诉渠道：

1、算法信息公示：以显著方式告知用户其提供算法推荐服务的事实，以适当方式公示算法基本原理、目的意图和主要运行机制（第十六条）。
2、用户自主选择权保障：为用户提供非个性化推荐选项或便捷的关闭算法推荐服务入口，用户关闭后立即停止相关服务；提供用户标签的选择、删除功能；算法对用户权益造成重大影响的，依法说明并担责（第十七条）。
3、特殊群体保护
（1）未成年人：开发专属使用模式，推送有益身心健康信息，不得推送诱导不良嗜好、模仿危险行为的信息，不得诱导未成年人沉迷网络（第十八条）。
（2）老年人：提供智能化适老服务，考虑其出行、就医等需求，开展涉电信网络诈骗信息的监测识别（第十九条）。
（3）劳动者：若提供工作调度服务，需保障劳动报酬、休息休假权益，完善订单分配、工作时间、奖惩等相关算法（第二十条）。
（4）消费者：不得利用算法根据消费者偏好、交易习惯实施价格歧视等不合理差别待遇，保障公平交易权（第二十一条）。

4、投诉申诉渠道建设：设置便捷有效的用户申诉、公众投诉举报入口，明确处理流程和反馈时限，及时受理并反馈结果（第二十二条）。

（四）监督管理配合合规义务
这是算法推荐服务提供者对接监管部门管理的法定义务，主要包括遵从算法分级分类管理、完成算法备案（变更/注销）、配合安全评估与监督检查、留存网络日志并提供技术数据支持等：

1、分级分类管理遵从：配合网信部门等依据舆论属性、社会动员能力、用户规模等实施的算法分级分类管理（第二十三条）。
2、备案管理（针对互联网新闻信息等特定算法推荐服务场景的专项要求）
（1）具有舆论属性或社会动员能力的企业，需在提供服务之日起 10 个工作日内完成算法备案，填报名称、算法类型、自评估报告等信息（第二十四条）。
（2）备案信息变更的，10 个工作日内办理变更手续；终止服务的，20 个工作日内办理注销备案并做好妥善安排（第二十四条）。
（3）完成备案后，在网站、APP 等显著位置标明备案编号，并提供公示信息链接（第二十六条）。

3、安全评估与监督检查配合
（1）具有舆论属性或社会动员能力的企业，按国家规定开展算法安全评估（第二十七条）。
（2）依法留存网络日志，配合网信、电信、公安等部门的安全评估和监督检查，提供必要的技术、数据支持（第二十八条）。

（五）禁止性经营行为义务
《规定》还明确划定算法应用的红线，禁止利用算法实施操纵网络舆论、垄断与不正当竞争、虚假运营等违法违规行为。即算法推荐服务提供者不得利用算法实施以下行为，违者将面临行政处罚甚至刑事追责：

1、虚假注册账号、非法交易账号，操纵点赞 / 评论 / 转发，屏蔽信息、过度推荐、操纵榜单或热搜，干预信息呈现以影响网络舆论（第十四条）。
2、对其他互联网服务提供者实施不合理限制，妨碍其合法服务运行，实施垄断和不正当竞争行为（第十五条）。
3、通过隐瞒情况、提供虚假材料等不正当手段取得算法备案（第三十三条）。
4、拒不配合监管部门的安全评估、监督检查，或未按要求留存网络日志（第二十八条）。

（六）其他相关法律风险
事实上，在算法技术应用的过程中，除了以上合规风险之外，如利用算法技术实施了某些不当商业行为，还可能涉及到侵权或不正当竞争的法律风险。
如在湖南影视剧信息网络传播权侵权纠纷案中 ^[1] ，用户在该某AI 搜索引擎中输入 “我要看某影视剧” 等相关提示词后，产品会从海量结果中筛选并优先展示多条链接，且多数直接指向提供影视剧盗版资源的网站，原告认为该行为侵害其信息网络传播权，遂向长沙市开福区法院提起诉讼，要求被告赔偿损失并赔礼道歉。虽然本案最终以调解方式结案，但从公开的司法意见来看，该行为被认定为侵权的意向极高。

再比如，在广州某文化传播有限公司诉北京某科技有限公司等侵害作品信息网络传播权纠纷案中 ^[2] ，某文化公司系案涉文章著作权人，某传媒公司转载该文后，某科技公司通过 RSS 技术从科普网接入该文，经文本分类算法发布于平台科技版块，二被告均无合法授权，某文化公司诉请二者承担侵害信息网络传播权的民事责任，索赔 15 万元并要求登报道歉。法院最终支持了某文化公司的诉求，并指出：网络服务提供者在平台内容分发主体的选择、预防侵权的技术模式选定及侵权风险的应对方式等问题上均具备相应的选择优势。如网络服务提供者未采取预防侵权的必要技术措施，则应根据其所提供网络服务的性质、方式、管理信息能力、获利分配模式等因素，确定其相应的帮助侵权责任。
因此，如利用算法技术不当，有可能构成侵犯他人作品的信息网络传播权行为，这也是算法推荐服务过程中要注意的合规风险。

三、相关法律责任
根据《规定》第三十一条、第三十三条的规定，服务提供者如违反上述合规义务，将根据情节轻重面临警告、通报批评、限期整改、暂停信息更新等处罚，情节严重的处1 万元以上 10 万元以下罚款；构成违反治安管理行为的，给予治安管理处罚；构成犯罪的，依法追究刑事责任。
此外，如算法推荐服务构成侵权或不正当竞争，还应当承担民事赔偿责任。

四、合规提示
综上，企业应用算法技术时，一方面需遵守监管机构的各项合规要求，若未达标将面临相应行政处罚；另一方面，若算法技术使用不当，还可能涉嫌侵害他人民事权利或构成不正当竞争，进而承担民事赔偿责任。上述两种情形均会对企业正常经营造成不利影响，建议企业高度重视并做好相关合规管理工作。

---

[1] 参见《国家知识产权局办公室、最高人民法院办公厅关于发布2024年知识产权纠纷多元调解典型案例的通知（国知办发保字〔2025〕50号）》。
[2] 参见广州知识产权法院（2021）粤73民终5651号民事判决。