算法治理
算法治理是指针对算法的设计、部署与运行建立规范、监督与问责机制,以防范算法滥用风险、保障用户权益和社会公共利益的治理活动。算法应用日益普及深化,在为经济社会发展注入新动能的同时,算法歧视、"大数据杀熟"、诱导沉迷等不合理应用导致的问题也深刻影响着传播秩序、市场秩序和社会秩序,给维护意识形态安全、社会公平公正和网民合法权益带来挑战,迫切需要对算法推荐服务建章立制。[1]2022年,国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》,自2022年3月1日起施行,标志着我国平台治理直接深入到平台的底层技术逻辑——算法。[2]
穿透"算法面纱"
算法治理面临的首要难题是问责对象的模糊。当技术造成损害后果时,如果不能穿透技术面纱、由明确的主体承担责任,就会存在潜在的责任缺口;若放任平台以"技术中立"和"算法黑箱"为由逃避法律责任,一切治理努力都将失之空泛。为此,监管部门将治理触角直接指向算法背后的责任:技术的应用包含主观意图,平台在算法设计、部署、运行中包含的主观意图与其是否尽到合理注意义务,构成平台算法追责的根本指向。[3]《规定》所规范的算法推荐技术,是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息,覆盖了新闻资讯、短视频、电商、外卖调度等日常数字生活的几乎所有场景。[4]
服务提供者的行为边界
在信息服务规范层面,《规定》要求算法推荐服务提供者坚持主流价值导向,积极传播正能量,不得利用算法推荐服务从事违法活动或传播违法信息,应当采取措施防范和抵制传播不良信息;应当建立健全用户注册、信息发布审核、数据安全和个人信息保护、安全事件应急处置等管理制度和技术措施,配备与算法推荐服务规模相适应的专业人员和技术支撑;定期审核、评估、验证算法机制机理、模型、数据和应用结果;加强用户模型和用户标签管理,建立完善人工干预和用户自主选择机制。[5]针对信息内容生态,《规定》明确不得生成合成虚假新闻信息或传播非国家规定范围内单位发布的新闻信息,不得利用算法实施影响网络舆论、规避监督管理以及垄断和不正当竞争行为。[6]
用户的知情权与选择权
算法治理的中国方案尤为重视用户权利。规定明确了算法知情权,要求服务提供者告知用户其提供算法推荐服务的情况,并公示服务的基本原理、目的意图和主要运行机制等;明确了算法选择权,要求向用户提供不针对其个人特征的选项,或者便捷的关闭算法推荐服务的选项——用户选择关闭的,应当立即停止提供相关服务;同时应向用户提供选择或删除用于算法推荐服务的用户标签的功能。[7]对特定主体的保护则更为具体:不得利用算法推荐服务诱导未成年人沉迷网络;应当便利老年人安全使用算法推荐服务;应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法,保障劳动者权益;不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实施不合理的差别待遇——这一条正是针对公众深恶痛绝的"大数据杀熟"。[8]
备案制度与多元共治
在监管工具上,我国创新性地在世界范围内率先设立了算法备案制度:具有舆论属性或者社会动员能力的算法推荐服务提供者,应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报名称、服务形式、应用领域、算法类型等备案信息;这类提供者还应按照国家有关规定开展安全评估,依法留存网络日志,配合网信、电信、公安、市场监管等部门监督检查。[9]《规定》还构建了算法安全风险监测、算法安全评估、算法备案管理和涉算法违法违规行为处置等多维一体的监管体系,勾勒出平台算法多元共治的蓝图:平台依靠自评估、第三方评估深入分析算法机制机理、模型、数据和应用结果,评估设计、部署和使用各环节的缺陷与漏洞,避免算法应用产生的社会公平、道德伦理、内容管理问题;平台算法安全责任制度与网络安全运营制度、数据安全保障制度、个人信息保护制度一起,共同构成我国平台企业的安全责任制度体系。[10]国家网信办有关负责人强调,算法推荐服务治理需要政府、企业、社会、网民等多方主体共同参与,推动算法推荐服务公正公平、规范透明,促进算法推荐服务向上向善。[11]
持续整饬:从专项规章走向专项行动
算法治理并非一纸规定便一劳永逸。2024年11月,中央网信办秘书局、工业和信息化部办公厅、公安部办公厅、市场监管总局办公厅联合发布通知,自即日起至2025年2月14日开展"清朗·网络平台算法典型问题治理"专项行动,重点整治同质化推送营造"信息茧房"、违规操纵干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据"杀熟"、算法向上向善服务缺失侵害用户合法权益等问题。[12]专项行动的要求相当具体:平台须构建"信息茧房"防范机制、提升推送内容多样性,严禁推送高度同质化内容诱导用户沉迷,不得强制要求用户选择兴趣标签、不得超范围收集个人信息用于内容推送;须全面公示热搜榜单算法原理、完善榜单日志留存、提高算法原理可验证性,严管水军刷榜与恶意炒作;须严防一味压缩配送时间导致超时率、交通违章率、事故率上升,详细公示时间预估、费用计算、路线规划等算法规则;严禁利用用户年龄、职业、消费水平等特征对相同商品实施差异化定价,严禁以"来晚了"等提示词掩盖优惠券领取失败的真实原因。[13][14]按照深度合成管理规定,监管部门还累计开展多批深度合成服务算法备案,促进深度合成服务规范发展;有评论指出,算法推荐技术在满足用户需求的同时,"信息茧房""大数据杀熟""诱导沉迷"等不合理应用饱受诟病,"别让算法给算计了"成为网民共同心声,必须为"法力无边"的算法戴上法律法规的"紧箍咒"。[15]专项行动还提出算法导向正确、公平公正、公开透明、自主可控、责任落实等目标,要求确保训练数据具有合法来源,定期对算法模型的可用性、可控性、可解释性以及数据处理、模型训练、部署运行等环节开展安全评估,推动长效治理。[16]
更广的版图
算法推荐规定只是我国算法治理体系的组成部分之一。《法治社会建设实施纲要(2020-2025年)》提出制定完善对算法推荐、深度伪造等新技术应用的规范管理办法,网络安全法、数据安全法、个人信息保护法以及《关于加强互联网信息服务算法综合治理的指导意见》共同构成顶层设计。[17]随着生成式人工智能、深度合成等技术加速普及,算法治理的对象正从推荐分发扩展到内容生成、自动化决策等更广领域,其核心命题始终不变:让算法服务于人,而非让用户被算法支配。
参考资料
- ↑ 《互联网信息服务算法推荐管理规定》答记者问,中央网络安全和信息化委员会办公室,2022-01-04。
- ↑ 规范互联网信息服务算法推荐活动 维护国家安全和社会公共利益——解读《互联网信息服务算法推荐管理规定》,中国政府网,2022-01-04。
- ↑ 专家解读|平台算法治理制度的中国方案——《互联网信息服务算法推荐管理规定》解读,中央网络安全和信息化委员会办公室,2022-01-05。
- ↑ 《互联网信息服务算法推荐管理规定》答记者问,中央网络安全和信息化委员会办公室,2022-01-04。
- ↑ 《互联网信息服务算法推荐管理规定》答记者问,中央网络安全和信息化委员会办公室,2022-01-04。
- ↑ 规范互联网信息服务算法推荐活动 维护国家安全和社会公共利益——解读《互联网信息服务算法推荐管理规定》,中国政府网,2022-01-04。
- ↑ 《互联网信息服务算法推荐管理规定》答记者问,中央网络安全和信息化委员会办公室,2022-01-04。
- ↑ 规范互联网信息服务算法推荐活动 维护国家安全和社会公共利益——解读《互联网信息服务算法推荐管理规定》,中国政府网,2022-01-04。
- ↑ 《互联网信息服务算法推荐管理规定》答记者问,中央网络安全和信息化委员会办公室,2022-01-04。
- ↑ 专家解读|平台算法治理制度的中国方案——《互联网信息服务算法推荐管理规定》解读,中央网络安全和信息化委员会办公室,2022-01-05。
- ↑ 規范互聯網信息服務算法推薦活動 維護國家安全和社會公共利益——解讀《互聯網信息服務算法推薦管理規定》,人民网,2022-01-04。
- ↑ 关于开展"清朗·网络平台算法典型问题治理"专项行动的通知,中央网络安全和信息化委员会办公室,2024-11-24。
- ↑ 关于开展"清朗·网络平台算法典型问题治理"专项行动的通知,中央网络安全和信息化委员会办公室,2024-11-24。
- ↑ "清朗·网络平台算法典型问题治理"专项行动启动,新华网,2024-11-25。
- ↑ 新华网评:做好"算法",首先要守法,新华网,2025-04-28。
- ↑ "清朗·网络平台算法典型问题治理"专项行动启动,新华网,2024-11-25。
- ↑ 《互联网信息服务算法推荐管理规定》答记者问,中央网络安全和信息化委员会办公室,2022-01-04。