公平
公平(fairness)在人工智能与算法决策语境中,指一个自动化系统在分配利益、机会或负担时,对个体或群体不产生不合理差异化对待的性质。它既是伦理学中的规范性概念,也是机器学习领域可形式化、可度量的一组统计准则。随着算法被广泛用于招聘、信贷、保险、医疗和司法风险评估,公平从抽象价值转化为工程实践中的具体约束:研究者以数学定义刻画"怎样才算公平",用统计指标检测偏差,并在数据处理与模型训练环节施加技术干预。需要指出的是,公平并不存在唯一定义,若干看似合理的度量之间可能相互冲突,公平标准的选取因而往往同时是价值判断,而非单纯的技术问题。
概念与内涵
算法公平讨论的核心,是把"公平对待"这一模糊要求转化为可检验的命题。按考察对象不同,通常分为群体公平(group fairness)与个体公平(individual fairness)两条路径。群体公平关注不同人口群体在结果分布上的可比性,例如男女求职者的录用率是否接近;个体公平则主张"相似的人应被相似地对待",要求在与决策任务相关的特征上相近的两个个体获得相近的预测。
两条路径各有盲点。群体公平不关心个体之间的具体差异,可能为了满足群体比例而牺牲个体资质,在极端情况下造成"逆向歧视"的观感;个体公平依赖对"相似性"的定义,一旦用来计算相似度的特征本身携带社会偏见,度量就会失去意义。此外,还有研究引入因果公平(causal fairness),主张决策不应依赖受保护属性及其因果后代,并以反事实方式追问"若改变种族或性别而其余条件不变,预测是否改变"。
公平与"正义""平等"在概念上并不等同。平等强调相同对待,公平允许基于合法相关因素的区别对待;正义涉及资源与权利的整体分配制度,而算法公平通常聚焦于具体模型的输出是否符合某一统计准则。中国《新一代人工智能伦理规范》把"促进公平公正"列为六项基本伦理要求之一,强调普惠包容、机会均等,并要求在提供产品和服务时帮助弱势群体、特殊群体并提供替代方案。
主要数学度量
群体层面的度量以受保护属性 A(如性别、种族)与模型预测 Ŷ、真实结果 Y 之间的关系来表述。
统计均等(statistical parity,亦称人口统计均等 demographic parity)要求各群体获得正面结果的比例相等,即 P(Ŷ=1|A=a)=P(Ŷ=1|A=b)。它形式简单,适用于历史数据本身带有偏见、不宜作为"真实标准"的场景,但忽略个体资质差异。
机会均等(equal opportunity)只约束真正符合资格的群体,要求真阳性率相等,即 P(Ŷ=1|Y=1,A=a)=P(Ŷ=1|Y=1,A=b),关注系统是否更容易"错过"某一群体的合格者。均等赔率(equalized odds)更严格,同时要求各群体的真阳性率与假阳性率都相等。预测均等(predictive parity)则要求被预测为正例者中实际为正例的比例在各群体相同。基于校准(calibration)的指标要求:对预测为某一概率的个体,其实际发生频率在各群体间一致。
个体层面,个体公平通常以利普希茨条件形式化:若两个个体在相关特征空间中的距离 d(x,x′) 很小,则其预测差异 |M(x)−M(x′)| 也应很小。反事实公平则借助因果模型定义个体层面的不变性。
不公平的来源
训练数据来自历史世界,因而往往复制甚至放大既有不平等。常见来源包括:历史偏见(historical bias),即标签本身反映过去的歧视性决策;表征偏见(representation bias),即某些群体在样本中严重不足,使其模式被低估;测量偏见(measurement bias),即用不恰当的代理变量代替目标变量,例如以医疗支出近似健康需求;以及聚合偏见,即在总体准确率看似合格的同时,某个子群体表现显著更差。
即使主动移除种族、性别等敏感属性,模型仍可能通过与这些属性高度相关的代理变量(如邮编、学历、姓名、消费习惯)间接习得偏见,这被称为代理歧视(proxy discrimination)。反馈回路是另一重要机制:预测结果被部署后反过来影响现实,例如对某社区的高风险预测带来更多巡逻,更多巡逻又产生更多逮捕记录,从而"验证"并强化原有预测,形成自我实现的不公平。
缓解方法
技术上通常按介入阶段把去偏方法分为三类。预处理(pre-processing)在训练前调整数据,如重新加权、重采样或生成合成样本,以削弱敏感属性与标签的相关性。训练中处理(in-processing)在目标函数中加入公平约束或对抗项,典型做法是对抗去偏:让模型在预测任务目标的同时,使敏感属性难以从预测中恢复。后处理(post-processing)在模型输出后按群体调整决策阈值,使所选指标趋于均衡,优点是不改动已训练模型。
制度层面,普遍主张的配套措施包括:记录训练数据覆盖的人群与标签形成方式,上线前用与任务相关的数据验证工具并检查群体间误判差异,运行中保存版本、阈值与人工干预记录以便追溯,并持续监测而非依赖一次性测试。中国《个人信息保护法》第二十四条要求自动化决策保证"透明度和结果公平、公正",并赋予个人在重大影响决定上的说明请求权与拒绝权,从法律侧为公平治理提供支撑。
内在张力与不可能性结果
公平研究中的关键发现是多种准则不可兼得。Kleinberg 等人证明了在风险评分场景中,若不同群体的真实阳性率不同,则校准与群体层面的均等赔率无法同时成立;Chouldechova 在再犯风险评估研究中独立得到类似结论。这类"不可能性"结果说明,选择哪一个公平指标并无纯技术上的最优解,而取决于应用情境、法律要求与伦理取向。
公平与准确率之间也存在张力:施加群体比例约束可能降低整体预测性能,但在历史标签本身有偏时,"准确率"并非可靠的中立基准。批评者还指出,公平指标只能捕捉可观测的统计差异,难以识别结构性不公;而把公平简化为单一数字,可能让机构产生"已达标"的错觉,即所谓"公平洗白"(fairness washing)。
实践案例
2016 年,非营利新闻机构 ProPublica 报告称,美国部分法院使用的再犯风险评估软件 COMPAS 存在种族偏差:黑人被告被错误标记为高风险的比例接近白人被告的两倍,而白人被告则更多被低估风险。开发方对该结论提出异议,争论的焦点恰恰在于双方采用了不同的公平定义——一方强调假阳性率均衡,另一方强调校准与预测均等。这一争议成为"必须先明确公平标准再争论是否公平"的经典例证。
另一类常见案例出现在医疗与人力资源领域。2019 年《科学》(Science)上的一项研究指出,有算法以"医疗费用"作为"健康需求"的代理变量,由于同等健康水平的黑人患者历史支出更低,该算法系统性地低估了他们的健康需求。这一发现说明,代理变量的选取本身就可能成为不公平的载体。
参见
- 非歧视
- 算法偏见
- 算法审计
- 自动化决策
- 科技伦理
- 可信人工智能
参考资料
- 中华人民共和国科学技术部. 《新一代人工智能伦理规范》发布. 中华人民共和国科学技术部网站, 2021-09-26.
- Kleinberg J, Mullainathan S, Raghavan M. Inherent Trade-Offs in the Fair Determination of Risk Scores. arXiv, 2016.
- Chouldechova A. Fair Prediction with Disparate Impact: A Study of Bias in Recidivism Prediction Instruments. arXiv, 2017.
- 中国网信网. 2026网安周|打破"算法黑箱",让透明守护公平. 中国网信网, 2026-09-17.
- 中国网络安全和信息化委员会办公室. 中华人民共和国个人信息保护法. 中国网信网, 2021-08-20.