跳转到内容

非歧视

来自VeritasWiki 真理百科

非歧视(non-discrimination)是一项法律与伦理原则,指每个人不因其种族、性别、年龄、残疾、宗教、国籍等受保护特征而在权利享有、机会获得或待遇上遭受不合理的区别对待。在人工智能语境中,该原则要求自动化系统的设计、部署与使用不得对特定群体造成直接的排斥或间接的不利影响。它与算法"公平"既有联系又有区别:非歧视首先是一项法定权利与禁止性规范,核心在于"不得歧视"这一义务以及相应的救济与问责;公平则更多是一组统计与技术度量,关注结果分布是否均衡。前者回答"这样做是否合法、是否侵犯权利",后者回答"模型输出在数字上是否均衡"。

法律与伦理基础

非歧视的法律根基是现代平等权体系。第二次世界大战后形成的国际人权文件把平等与不歧视确立为基本原则,相关精神被《世界人权宣言》等文件吸收,并经由国际人权公约和各国的宪法、法律加以制度化。在伦理层面,非歧视与尊重人的尊严、机会均等和社会正义直接相关:一个人的出生背景或身份特征不应预先决定其可获得的教育、就业与金融服务。

在法律技术上,歧视通常被区分为直接歧视与间接歧视。直接歧视指以受保护属性为明确依据给予不利对待;间接歧视指某项表面中立的规定、标准或做法,实际上使某一受保护群体处于特别不利的地位。后者在算法系统中尤为常见,因为模型往往并不直接读取种族或性别,而是通过看似中性的特征产生类似效果。

中国的制度安排把这一原则落实到多部法律法规中。《中华人民共和国个人信息保护法》第二十四条要求自动化决策保证"透明度和结果公平、公正",并明确禁止在交易价格等交易条件上实行不合理差别待遇。《互联网信息服务算法推荐管理规定》第四条把"公正公平、公开透明"列为算法推荐服务的基本原则,第二十一条进一步规定平台不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。欧盟于2024年发布《人工智能法案》,对高风险人工智能设定义务,其核心义务按时间表在2026年逐步生效。

算法歧视的主要类型

直接歧视较为显见:在招聘、授信或保险定价中直接把性别、年龄、籍贯等作为拒绝理由。更隐蔽的是代理歧视(proxy discrimination),即通过邮编、学历、消费记录、设备型号等与受保护属性高度相关的变量间接重建被禁止的区分。历史偏见则是另一类:训练数据记录了过去的歧视性决策,模型从中学习并将旧有不公固化为"经验规律"。

大数据"杀熟"是中国语境下受到高度关注的价格歧视形态。平台依据用户画像、支付意愿与信息优势,对同一商品或服务向不同消费者设定不同价格,使熟悉平台的用户反而承担更高成本。算法决策在就业领域同样引发担忧:自动化简历筛选、AI 面试评分若以历史上以男性为主的岗位数据训练,可能系统性压低女性候选人的评分;性格测试等间接特征也可能成为变相的筛选门槛。

此外,服务可得性的差异构成另一类问题。当智能服务优先覆盖高价值用户,而老年人、低收入群体或偏远地区居民缺乏数字接入条件时,技术便利的分配本身就带有排斥性,这类"数字排斥"常被视为歧视的延伸。

典型案例与监管行动

2024年底至2025年,中国网信部门相继开展"清朗·网络平台算法典型问题治理"与"清朗·整治AI技术滥用"等专项行动,把算法不公与差别待遇纳入治理范围。2025年,北京市网信办推动抖音、百度、美团等首批主要网络平台公示算法规则原理,直接针对算法"黑箱",使监管机构和司法机关在出现不公结果时具备审查与认定的抓手。

在消费领域,大数据"杀熟"多次引发公共讨论与法律争议。评论者指出,分层定价若遵循公开、可解释的商业逻辑尚有讨论空间,但平台凭用户画像隐蔽抬价,实质是把个性化服务变为对消费者剩余的攫取。这类争议推动了对举证责任的反思:有意见主张在消费者提供疑似价格歧视的初步证据后,由掌握算法与完整数据的平台方证明价格差异源于合理成本或客观供需变化。

在就业领域,多地检察机关与学者提出对招聘面试等高风险场景实行定期强制审计,要求企业公示简历初筛维度与权重,并为落选者提供说明、异议与人工复核渠道。这些主张共同指向一个判断:算法可以辅助判断,但不应成为无人负责、无法申诉的门槛。

合规审计与治理

制度层面的治理围绕"可见、可解释、可问责"展开。中国《个人信息保护法》赋予个人在自动化决策上的说明请求权,并规定个人有权拒绝仅通过自动化决策方式作出对其权益有重大影响的决定;《互联网信息服务算法推荐管理规定》要求平台以显著方式告知算法推荐情况,公示基本原理、目的意图与主要运行机制,并提供关闭个性化推荐或删除用户标签的功能。

该规定还建立了算法备案与安全评估制度:具有舆论属性或社会动员能力的服务提供者须在规定期限内通过算法备案系统填报信息,并依法开展安全评估;网信部门会同电信、公安、市场监管等部门实施分级分类管理与监督检查,对发现的问题责令限期整改。第二十二条要求设置便捷有效的用户申诉和公众投诉举报入口,明确处理流程与反馈时限。

合规审计强调把公平问题转化为可检查的问题:开发者说明训练数据覆盖哪些人群、哪些群体样本不足、标签如何形成;用人单位在上线前用与岗位相关的数据验证工具并检查群体间误判差异;系统运行后保存版本、阈值与人工干预记录以便追溯。第三方算法审计机构依据公开标准对平台算法进行独立评估,被视为补足监管专业能力的重要方式。同时,治理须避免"自动化偏见":人工复核应允许复核者查看原始材料、理解系统局限并真正推翻错误建议,而非仅仅确认机器结论。

与算法公平的区别

两者常被并称,但分析层次不同。非歧视以权利和法定义务为中心,关注行为是否构成法律所禁止的歧视,判断依赖法律要件、归责与救济,其典型问题是"平台是否违法实行差别待遇""受害者如何举证与求偿"。算法公平以模型和统计量为中心,关注不同群体在真阳性率、假阳性率、校准等指标上是否均衡,其典型问题是"两组数据的通过率相差多少""采用哪一个度量"。

这种区别带来方法上的分工:公平研究可能证明某些指标在数学上无法同时满足,但这一结论并不免除法律上的非歧视义务;反过来,一家企业通过某一公平指标的审计,也不等于当然满足反歧视法律的要求,因为法律还关注程序透明、说明理由、申诉渠道与实质机会。将二者混同,容易出现以技术合规掩盖权利侵害,或以抽象权利主张回避可操作的技术改进。

争议与局限

首先是认定标准的可操作性。间接歧视与代理歧义往往难以证明,算法黑箱使受害者难以获得证据,而"商业秘密"抗辩又可能限制外部审查。其次是责任归属:算法设计者、部署者、使用者与平台之间的责任链条尚需进一步明确,连带责任的适用范围仍在讨论之中。

再次是治理成本与创新平衡。强制性审计与备案可能带来合规负担,对中小开发者影响尤甚;监管若采取"一刀切",既可能无法有效管控风险,也会抑制创新。因而分级分类、按风险强度配置审查资源成为常见思路。最后是跨境问题:跨国平台的招聘或信贷系统可能覆盖多国用户,单一国家的监管难以约束其全球业务,国际协作与共同准则的制定因此被反复提及。

参见

  • 公平
  • 算法偏见
  • 算法审计
  • 自动化决策
  • 个人信息保护法
  • 数字鸿沟

参考资料

  1. 中国网络安全和信息化委员会办公室. 中华人民共和国个人信息保护法. 中国网信网, 2021-08-20.
  2. 国家互联网信息办公室等四部门. 互联网信息服务算法推荐管理规定. 中国网信网, 2022-01-04.
  3. 光明日报. 【光明时评】将"算法向善"落实落细. 光明网, 2026-10-28.
  4. 科普中国. 人工智能有"偏见"吗?——算法歧视背后的社会不平等密码. 科普中国, 2025.
  5. 新华社客户端. 上证观察家|算法"杀熟"需多元共治. 新华社客户端, 2025.