在机器学习中实现公平性：对技术策略的法律批判

《Computer Law & Security Review》：Bridging fairness in machine learning: A legal critique of technical strategies

　　刘静曦|罗晓君|唐贯华
伦敦玛丽女王大学商业法研究中心，英国

摘要
机器学习（ML）系统在招聘、金融、医疗保健等高风险领域自动化决策，但在《通用数据保护条例》（GDPR）、欧盟《人工智能法案》和平等框架的监管下面临着日益严格的法律审查。这项跨学科研究揭示了技术公平策略与反歧视法律和数据保护法律之间的关键脱节，主要基于欧盟、英国和美国的GDPR及反歧视法律框架，通过对2020至2025年间51篇经过同行评审的研究进行系统分析得出的结论。我们发现了三个主要问题：（1）技术上“公平”的模型经常忽视个体化伤害和比例原则；（2）主要的缓解技术（预处理/处理中/处理后）会抹去结构歧视的重要法律证据；（3）机器学习文献中对偏见、歧视和不公平的表述不一致，导致在根据 evolving 法律标准评估这些系统时出现歧义。为缩小这些差距，我们提出了一个基于五项原则的合法性强的审计框架：管辖权基准规定、歧视与公平的区分、行业特定的责任整合、具有法律意义的指标设计以及程序性保障的维护。该框架使开发者和监管者能够开发出同时满足统计平等性和法律合规性要求的机器学习系统。

1. 引言
机器学习（ML）已应用于多个工业领域，包括预测再犯率、评估信用风险和设定保险费率。尽管这些模型承诺效率和准确性，但越来越多的人担心它们可能会延续不公平现象，并对某些群体产生歧视，特别是在决策对个人生活有重大影响的情境中[1]。确保ML中的非歧视性和公平性是一个重大挑战，尤其是在执法、金融和招聘等敏感行业中[2]。不公平或歧视性的模型可能会加剧社会不平等，限制弱势群体的机会，并削弱对自动化系统的信任。鉴于机器学习在高风险决策过程中的依赖性日益增强，这一点尤其令人担忧[3]。解决不公平问题是确保ML模型具备伦理性、透明度和问责性的关键。

自2020年以来，ML中的偏见、歧视和公平问题成为技术研究和政策讨论的重要议题。大多数研究集中在医疗保健领域。Cau等人[4]通过搜索四个主要数据库，评估了ML在心血管诊断和预后应用中的种族和族裔差异。他们分析了11项研究，发现82%的研究报告了ML模型中的种族或族裔偏见，显示出不同人群之间临床结果的显著差异。Liu等人[5]查阅了PubMed、Scopus和Embase，找到了截至2022年12月31日使用ML和深度学习模型进行炎症性肠病诊断或预后预测的研究，发现ML模型存在高偏见风险，主要是因为样本量小、数据缺失和缺乏外部验证[5]。Huang等人[6]对评估和改善医疗保健领域ML模型公平性的方法进行了全面回顾，识别了11项相关研究，并考察了公平性量化指标、公开可用的数据集以及缓解偏见的策略。他们指出，目前关于ML模型偏见缓解的研究仍存在局限性，无论是在疾病种类还是医疗应用方面，以及公共数据集对公平性研究的可访问性方面[6]。在心脏骤停后结果预测的背景下，Zobeiri等人[7]对ML模型的使用进行了系统文献回顾，发现存在显著异质性和高偏见风险，主要原因是对缺失数据的管理不足且缺乏校准图表[7]。

在其他领域，Van Giffen等人[8]进行了系统文献回顾，探讨了商业研究中的ML偏见及其预防和缓解策略，将偏见分为八个类型，并总结了在不同ML项目阶段的应用方法[8]。Pham等人[9]对教育领域ML模型的公平性研究进行了全面调查，发现性别、种族、族裔和残疾是最常见的敏感变量，而群体公平性、均衡赔率和人口统计平等是主要的公平定义[9]。超参数调整和交叉验证技术是提高ML模型公平性的常见方法[9]。

在法律背景下，偏见、歧视和不公平通常被视为不同的概念，尽管它们的定义并不完善，并且在不同的监管框架和情境中可能有不同的解释。准确理解这些差异对于确保遵守反歧视法律、使算法输出符合伦理标准以及减少无意伤害的风险至关重要，尤其是在招聘算法、信用评分或预测警务等高风险领域。对于技术人士而言，这种区分影响了公平性指标的定义、偏见审计的进行方式以及将问责性嵌入透明、合法可辩护的系统设计中。

偏见是指决策过程中的系统性偏差，可能不平等地偏好或不利特定群体或结果。这些偏差可能源于数据缺陷、偏见性假设或系统内的结构性不平等。从法律角度看，偏见可能是隐性的（例如，由偏斜训练数据引起的算法偏见）或显性的（例如，故意的歧视性政策）。虽然偏见本身并不违法，但当它导致歧视性结果时就会产生法律问题。例如，基于历史数据训练的招聘工具如果低估女性技术岗位的简历，即使没有明显的歧视意图，也可能违反反歧视法律[10]。

相比之下，歧视涉及根据种族、性别、宗教或残疾等受法律保护的特征对个人或群体进行区别对待。从法律角度，歧视表现为两种形式：直接歧视（例如，因种族原因拒绝求职者）和间接歧视（例如，要求无关的体能测试从而损害残疾申请者的利益）。欧盟（依据平等指令）和美国（通过《民权法》第七条）禁止这两种形式。法院经常运用“不同影响”原则来评估间接歧视[11]，例如信用评分模型使用邮政编码作为种族的代理，从而对少数族裔社区造成不利影响[11]。

不公平则包括导致不公正结果的程序或分配性不公，即使与受保护属性没有明显关联。这一更广泛的概念还包括不透明的决策过程、缺乏正当程序或对弱势群体的不公正对待。欧盟的GDPR（第22条）等监管框架规定自动化决策必须“公平和透明”，而消费者保护法律禁止“不公平或误导性行为”，例如误导性的算法定价。例如，即使不针对受保护的特征，但对洪灾易发地区的所有居民提高保险费率的模型也可能被视为不公平，因为它对低收入家庭造成了不成比例的负担[12]。

为澄清这些区别，表1展示了法律框架中偏见、歧视和不公平之间的核心差异[13]。

表1. 法律框架中偏见、歧视和不公平之间的区别
| 概念 | 法律侧重 | 例子 | | |
|------------------|------------------|------------------|------------------|----------------| |
| 偏见 | 系统性决策偏差 | 不一定违法，除非与歧视相关 | 算法偏见（面部识别） | |
| 歧视 | 基于受保护特征的差异性对待 | 被反歧视法律明确禁止 | 性别歧视 | |
| 不公平 | 不公正的结果或过程 | 取决于具体情境；与程序正义相关 | 不清晰的贷款拒绝理由 | |

确实，尽管偏见、歧视和不公平相互关联，但它们的法律区别至关重要。歧视是具有明确受保护特征（如性别、种族、残疾和年龄）的偏见的一个子集，而不公平则涵盖更广泛的伦理和程序问题。对于技术人士来说，将技术公平指标（如均衡赔率）与法律标准（如不同影响原则）对齐是确保合规性和公正性的关键。忽视这些细微差别可能会导致技术上“无偏见”但在法律上具有歧视性或社会上不公平的系统。然而，即使在法律框架内，这些概念也可能存在争议和情境依赖性。例如，GDPR（第5(1)(a)条）中的“公平”主要理解为程序公平，要求数据处理符合合理预期并透明负责地进行。而在《数字市场法》中，排序义务的公平性概念仍在争论中[14]，一些平台运营商可能认为其指程序中立性，而学者如Hacker则认为其指实质性结果公平[15]。欧盟《人工智能法案》在高风险系统背景下提到了公平性和偏见（第10(2)条和第10(5)条），但这两个概念仍在不断发展中[16]。本研究并不试图解决这些争议，而是以反歧视法和数据保护法的核心价值观为基础进行分析，同时承认更广泛的监管环境仍在演变。

然而，技术文献中这些术语的使用方式往往与其法律含义不同。这不仅仅是不精确的问题，反映了技术和法律方法的各自目标。技术研究通常关注模型性能、公平指标和算法行为，而法律框架则关注歧视、正当性和个人权利的保护等问题。因此，术语上的差异可能会掩盖解释和应用上的重要区别，尤其是在从法律角度考虑技术概念时。

我们的系统文献回顾综合了有关ML中偏见、歧视和公平的研究，识别出新兴趋势、持续存在的挑战和未解决的研究空白。为解决这些差异，我们提出了一些建议，旨在改善法律和技术方法之间的协调和对话，以支持更公平、更负责任的ML系统的发展。本文对ML中的偏见、歧视和公平问题做出了三项关键贡献：首先，对相关技术研究进行了系统回顾和总结，确定了四个主要趋势；其次，明确了评估的特定行业公平性指标；第三，提出了模型开发阶段（预处理、处理中和处理后）缓解偏见和不公平的算法技术；最后，指出了广泛使用的ML算法中的法律公平性挑战。通过描绘当前现状，本研究为研究人员和从业者提供了结构化的框架，帮助他们应对ML中的公平性复杂性，促进研究和部署中的明智决策。

其次，本文澄清了偏见、歧视和不公平之间的关键概念区别，这些术语在技术文献中由于与法律概念的不同目的而经常有不同的用法。通过内容分析，我们展示了现有ML研究中的术语差异如何在法律视角下产生歧义。通过将这些概念与法律定义对齐并强调其实际意义，本研究旨在提高跨学科的理解，并促进技术和法律利益相关者之间的清晰沟通。

第三，本文倡导采用跨学科方法来应对ML中的公平性挑战。它提出了将技术解决方案（如具有偏见意识的算法）与法律、伦理和监管考虑相结合的可操作策略。这种方法认识到，纯算法层面的修复不足以缓解偏见模型的社会危害。相反，需要计算机科学、法律和政策制定方面的持续合作，以开发出负责任的AI系统。为此，本文概述了开发符合社会价值观和法律义务的负责任AI系统的路线图。总的来说，这些贡献推进了公平性讨论，并为缩小理论研究与实际应用之间的差距提供了实际见解。

2. 研究方法
为了全面了解ML模型中如何处理公平性问题，本研究对现有文献进行了系统回顾。通过预定义的关键词组合，对文章标题、摘要和主要内容进行了结构化搜索，特别是涉及ML技术（如“机器学习”、“人工智能”、“深度学习”、“数据驱动”、“预测模型”）和公平相关概念（如“公平性”、“偏见”和“歧视”）的术语。搜索范围涵盖了Google Scholar、Elsevier、Scopus和Web of Science等主要学术数据库。这是回顾过程的第一步。

为了确保回顾的相关性和质量，应用了一组筛选标准。回顾包括2020至2025年间以英文发表的实证性、概念性和理论性期刊文章。排除了灰色文献和非学术出版物，以保持分析和的焦点和严谨性。选定的研究专门针对ML系统中缓解偏见、歧视和不公平的技术方法。仅关注法律框架或模型准确性的出版物，而没有实质性探讨与公平相关问题的出版物被排除在外。此外，只有发表在高影响力、经过同行评审的期刊上的研究被保留下来，以确保学术质量和可靠性。在第二步中，根据纳入和排除标准对第一步中识别出的记录进行筛选，以产生最终的审核研究样本。

我们开发了一个结构化的编码协议来分析选定的期刊文章，遵循内容分析中的既定方法。该协议包括四个部分。第一部分记录了 bibliographic 信息，包括作者、通讯作者所在国家、出版年份、期刊名称、影响因子或排名以及资金来源的致谢。第二部分考察了应用的背景，例如所使用的机器学习模型、应用领域（例如医疗保健、金融）以及讨论的受保护属性或公平问题。第三部分捕捉了技术特性，包括公平度量的类型（例如群体、个体或因果）、缓解策略（ preprocessing、in-processing 或 post-processing）以及所采用的具体算法技术。第四部分评估主要发现和法律相关性，重点关注公平是如何定义和评估的，是否引用了法律概念，以及对监管或伦理合规性的影响。

更重要的是，本研究结合了法律分析，以评估技术公平方法与既定的公平和非歧视法律原则之间的一致性。这种分析主要基于两个法律体系：数据保护法（特别是 GDPR）和反歧视法。后者通过参考欧盟、英国和美国的法律框架中的更广泛的非歧视原则来考察，举例来自英国《2010年平等法》。选择这些框架是因为它们为在高风险决策环境中评估公平性、歧视、透明度和合理性提供了完善的实质性标准。特别是，反歧视法提供了评估直接和间接歧视、比例性和个性化伤害的教义工具，而数据保护法则引入了自动化决策中的公平性、透明度和问责性的补充要求。通过利用这些框架，分析旨在识别当前机器学习技术方法中的概念性不匹配和法律盲点。

虽然本研究主要关注数据保护法和反歧视法作为其核心分析框架，但欧盟的 AI 法也涉及算法系统中公平、歧视和偏见的相关问题。例如，第 10(2) 条要求识别并缓解可能影响基本权利或导致欧盟法律禁止的歧视的偏见，从而将技术偏见与既定的非歧视标准联系起来。同样，第 10(5) 条允许仅在严格必要时，并且遵循 GDPR 等框架中的保障措施的情况下，处理特殊类别的个人数据以检测和纠正偏见。这些条款表明，尽管 AI 法将偏见和公平作为监管关切，但将其置于现有的法律框架内。在这种背景下，当前的分析重点关注设定评估公平性和歧视的实质性标准的相关法律框架，特别是在合理依据、比例性和个体伤害评估方面。

综合来看，这种跨学科方法能够对技术公平方法与既定法律标准的一致性或差异进行结构化评估，从而支持法律和技术视角之间更连贯的对话。

3. 研究格局和定量分析

为了为我们技术-法律跨学科分析提供基于证据的基础，本节展示了关于机器学习中公平性的现有研究的定量映射。使用预定义的关键词组合，数据库搜索发现了 76,589 条记录。随后根据纳入和排除标准进行了筛选，最终确定了来自 31 个期刊的 51 项研究。分析中包含的 51 项研究在参考文献列表中用星号（*）标出。

出版物的分布表明，关于机器学习中公平性的研究分布在广泛的期刊上，少数期刊是主要发表场所。特别是《生物医学信息学和专家系统应用杂志》占了最大的研究份额，其次是《应用软件计算》，而其他大多数期刊只贡献了一到两篇文章。这种集中表明，与公平相关的研究主要在应用和跨学科背景下发展，尤其是在医疗保健、人工智能和决策支持系统的交叉点。同时，出版物在工程、商业和领域特定期刊中的广泛分布反映了机器学习中公平性的跨领域相关性。

出版的地理分布显示了一个不平衡但全球分散的研究格局。美国贡献了最多的研究，其次是中国和英国，而其他国家只有少量出版物。这种集中反映了这些地区领先学术机构和技术公司的强大存在，它们积极塑造了关于算法公平和负责任人工智能的研究。同时，更广泛的国际传播表明全球对机器学习中公平性的参与度正在增加。

被审查的研究涵盖了多个主要应用领域，其中医疗保健最为突出，其次是信用评分、面部识别和能源领域，而教育、营销和风险等领域则代表性不足。这种分布凸显了在高风险领域中，特别是在医疗保健和金融领域，公平性问题受到最密集的研究，因为算法决策对社会有重大影响。大量领域独立的研究进一步表明，大量文献专注于开发可推广的公平性指标、框架和缓解技术。尽管刑事司法在更广泛的公平讨论中得到广泛认可，但本综述中没有研究符合纳入标准，反映了选定样本的技术和出版相关范围。

在审查的研究中，使用了多种机器学习技术，其中神经网络、随机森林和逻辑回归是最常用的模型。其他方法，包括支持向量机、决策树和提升方法也经常出现，而一些较新的技术，如联邦学习和大型语言模型也开始出现。这种方法的多样性反映了公平干预在不同模型架构中的广泛适用性。

对受保护特征的分析显示，研究主要集中在性别和种族上，无论是单独还是结合来看，而涉及年龄、种族或婚姻状况等属性的研究相对较少。这种模式反映了在招聘、信用评分、医疗保健和面部识别等领域中众所周知的社会问题和历史偏见证据。大多数研究由两到五名作者组成的小团队完成，反映了机器学习中公平研究的跨学科性质，这通常需要技术专家和领域专家之间的合作。

4. 机器学习模型中的不公平技术来源

本节探讨了机器学习模型中的不公平技术来源，为后续对其法律和伦理影响的跨学科分析提供了基础。了解不公平如何在机器学习生命周期的不同阶段产生对于评估责任、问责制和监管干预至关重要。根据既定框架 [11]，机器学习系统中的不公平可以从多个阶段产生，包括数据收集、特征构造和模型设计。本研究重点关注三个关键的不公平技术来源：(1) 抽样偏差，当某些群体在训练数据中代表性不足或过度代表时出现；(2) 测量偏差，当数据特征测量或记录不准确时产生，导致结果失真；(3) 算法偏差，指在模型设计、训练或决策过程中出现的偏见。这些偏见导致不同人群之间的模型性能差异，从而引发与歧视、平等和问责制相关的重要法律问题 [12]。

这里确定的每个来源都有不同的法律含义：抽样偏差可能导致间接歧视的指控；通过代理变量产生的测量偏差引发数据保护法下的透明度和可解释性问题；算法偏差则涉及反歧视法和 GDPR 下的问责义务。通过将这些技术来源与其法律对应物对应起来，本节为公平性指标和缓解策略的批评提供了分析基础。

4.1. 抽样偏差：训练数据中的代表性不足

当收集的数据无法准确反映更大范围的人口时，就会出现抽样偏差，导致见解偏斜或不完整。当训练数据不能代表目标人群的随机或代表性样本时，就会出现样本选择偏差 [13]。例如，仅依赖配备智能电表的家庭的能源消耗数据可能会忽略没有这种技术的低收入家庭的行为 [14]。同样，有缺陷的抽样策略可能会从有限或同质的数据中推断出个性、价值观或态度等特征 [15]。抽样偏差通常嵌入在依赖于非代表性抽样方法的数据集中，或过分强调特定地区或市场细分的数据集中。

现实世界的案例突显了这种偏差的后果。苹果基于机器学习的信用卡系统由于训练数据中成功申请者的性别比例失衡，不公平地拒绝了女性申请人 [16]。同样，亚马逊的招聘工具因为主要基于过去以男性为主的招聘数据而偏爱男性候选人 [17]。这些案例强调了如果历史不平等现象嵌入在训练数据集中，可能会延续歧视性结果。

此外，确认偏差，即个人的主观信念影响哪些数据被视为相关，可能会进一步加剧抽样偏差，尤其是当相关性由可观察的结果判断时 [18]。当开发者或研究人员已经对应该是什么有假设时，他们可能会有意识地选择支持这一假设的数据。这意味着训练数据反映了他们的信念，而不是现实的真实多样性。如果人类注释者负责数据标记，例如根据简历数据判断求职者的“高潜力”，他们的个人信念可能会影响他们应用的标签。

抽样偏差也可能在数据预处理过程中引入。诸如均值插补或删除不完整条目等技术可能会放大偏差，特别是当缺失数据的随机性假设不成立时 [19]。例如，如果高收入者系统性地较少披露收入，用均值替换缺失值可能会不成比例地低估高收入水平。

从法律角度来看，抽样偏差引发了关于间接歧视的担忧，因为训练数据中某些群体的代表性不足可能导致系统性的不利结果，即使没有明确的歧视意图。

4.2. 测量偏差：有缺陷的特征和标签

当机器学习模型中使用的特征或标签不能完美代表真正感兴趣的变量时，就会产生测量偏差，导致系统性地不准确或不完整的成果 [20,21]。测量偏差的一个常见来源是在问题定义阶段，研究人员为模型选择目标变量和特征时产生的。这些选择可能反映了数据可用性的限制、仪器设备的不足或过时的假设，而不是它们旨在代表的潜在现象。例如，美国时间使用调查假设工作是在室外完成的。这个假设在 COVID-19 大流行期间远程工作兴起后变得过时。如果能源规划模型仍然依赖这些过时的假设，它们可能会错误地判断能源需求模式，从而在远程工作比例高的地区造成错误的时间安排停电。同时，如果机器学习模型基于过时或不完整的数据进行训练，例如忽略了低收入社区的行为，它们可能无法捕捉到当前的需求。这可能导致误导性的政策，例如无法有效支持弱势群体的资源分配策略。

另一种测量偏差源于在建模中使用受保护的属性，如种族、性别、种族。虽然这些属性通常被明确排除以防止歧视，但它们与非受保护特征（如邮政编码、收入或逮捕记录）的相关性仍可能导致有偏差的结果，这种现象称为“红线效应”[23,24]。例如，在犯罪预测算法中，使用过去的逮捕次数来估计未来的犯罪活动。假设非裔美国人和白人犯罪的比率相等。由于在少数族裔社区 policing 更严格，非裔美国人更有可能被逮捕。即使真实风险相同，由于执法中的系统性差异，模型也会将非裔美国人归类为更高风险。这导致了歧视性的结果，即使没有明确使用种族作为特征。当用于训练机器学习模型的标签系统性地偏离真实的底层类别时，就会产生标签偏差[26]。这种情况通常由于歧义、主观解释或文化差异而发生，这些因素可能会扭曲标记过程。研究人员在选择合适的标签时经常面临挑战，尤其是在现有的分类方法无法捕捉到有意义差异的情况下。例如，在图像分类任务中，可能需要将照片标记为“婚礼”场景。来自西方文化背景的注释者可能会主要将婚礼与白色连衣裙和燕尾服联系起来，可能会忽略印度婚礼等具有鲜艳色彩和传统服饰的文化多样性表现。在这种情况下，标签反映了注释者的文化假设，而不是客观事实[27]，从而导致训练数据存在偏见，无法准确地反映现实世界的多样性。

这些问题在法律背景下尤为重要，因为使用代理变量和有偏见的标签可能会导致难以检测到的歧视性结果，从而对依赖于透明度和可解释性的现有法律框架构成挑战。

4.3. 算法偏见：设计选择与不同影响
算法偏见发生在模型设计过程中的技术决策导致模型输出存在系统偏差时，尤其是在不同人群群体之间[28]。这些偏见可能在问题构建、特征选择或优化过程中产生，本质上是在研究人员将复杂的社会现象简化为计算术语时出现的[29,30]。算法偏见的一个主要后果是错误分布的不平等，即错误阳性或错误阴性结果对某些群体的影响不成比例。例如，在刑事司法系统中使用的COMPAS风险评估工具被发现对少数族裔被告的错误阳性率较高，这意味着他们被错误地归类为高风险群体的可能性更大[31]。这种差异可能导致服务歧视，因为被有偏模型错误标记的个人可能会被拒绝贷款、工作或提前释放[32],[33],[34]。算法偏见与法律责任密切相关，因为嵌入模型中的设计选择可能会产生不同的影响，引发对反歧视法律的关注，并促使人们需要对自动化决策过程的可解释性提出要求。

5. 根据法律标准测试的公平性指标
本节探讨了如何通过技术指标量化机器学习中的公平性，以及为什么这些指标往往无法达到法律所要求的公平性和非歧视标准。
在技术论文中，通常使用一系列指标来评估机器学习中的公平性，包括群体公平性、个体公平性和因果公平性。群体公平性指标评估模型是否在不同人群群体之间产生公平的结果，例如确保不同的群体总体上获得相似的准确性、错误阳性率或预测值[35]。相比之下，个体公平性指标强调在个体层面的一致性，要求相似的个体无论属于哪个群体都能获得相似的结果。这种方法依赖于明确的相似性概念，关注的是个人层面的公平性，而不是汇总的群体统计数据。因果公平性旨在通过建模预测变量与受保护属性之间的因果关系来识别和减轻不公平的影响。

然而，这些公平性指标存在根本性的局限。它们的设计反映了技术优先级，而这些优先级往往与法律原则不一致，特别是在透明度、合理性和比例性方面。正如Wachter、Mittelstadt和Russell所观察到的，仅通过技术指标无法完全自动化公平性，因为法律评估依赖于关于比较对象、劣势和合理性的基于上下文的判断[36]。因此，这些公平性干预措施的可靠性和法律适当性仍然不确定。

5.1. 群体公平性指标：统计平等的陷阱
群体公平性指标通过比较不同人群群体的模型结果来评估公平性，如准确性、错误阳性率或预测率。这些指标假设群体之间的统计平等等同于公平性，但这种方法与法律对歧视和公平性的定义和评估方式有显著的区别。
- 相等准确性要求模型在不同人群群体的整体准确性方面表现相同[37]。这意味着不同的人群群体应该具有相似的预测准确性。
- 相等错误阳性率衡量模型是否以相同的比率对不同群体分配错误阳性结果[38]。当模型错误地预测一个实际上是阴性的样本为阳性时，就会发生错误阳性。如果一个群体的错误阳性率显著更高，可能会导致不公平的后果，例如在工作申请中被错误拒绝或不公平地检测到欺诈行为[32],[33],[34]。
- 相等错误阴性率衡量不同人群群体中正确识别的阴性案例（即真正阴性案例）的比例是否相同[37]。如果一个群体的错误阴性率显著较低，可能表明该模型在该群体中错误分类的情况较多。
- 相等阴性预测值衡量模型预测为阴性的样本实际上为阴性的概率在不同人群群体中是否一致[39]。换句话说，它评估模型的阴性预测对所有群体的可靠性是否相同，有助于确保没有一个群体因错误阴性而受到不成比例的影响。这一公平性指标在高风险应用中尤为重要，如医疗保健或刑事司法，因为在这些领域忽视阳性案例（例如未能检测到疾病或风险）可能会产生严重后果。
- 接收者操作特征曲线下面积的平均值衡量模型区分正类和负类的整体能力是否在不同人群群体之间保持一致[40]。它评估了所有分类阈值下真正阳性率和错误阳性率之间的权衡，提供了模型歧视性能的总结。
- 通用熵指数衡量算法带来的好处分配的不平等程度[41]。通过使用收益函数和一个可调参数，它能够捕捉个体和群体之间的微妙和极端差异。
- 平等概率衡量机器学习模型是否在不同人群群体中实现相等的真正阳性率和错误阳性率[42],[43],[44]。如果模型无论属于哪个群体，都能以相同的概率做出正确的阳性预测和错误的阳性预测，则满足平等概率的要求。
- 治疗平等是指不同人群群体的错误阴性与错误阳性比率相同[45]。这一指标确保没有一个群体因错误阳性（即不必要的干预）或错误阴性（即错失的机会）而受到不成比例的惩罚。
- 平均概率差异计算不同人群群体之间的错误阳性率和真正阳性率的平均差异[39,46]。值为零表示公平，负值表明优势群体受益，正值表明弱势群体受益[47]。这一指标有助于衡量有益和有害分类之间的差异[48]。
- 相等机会差异，也称为真正阳性率，确保模型在不同人群群体中识别阳性结果的效果相同[49]。与平等概率不同，它不考虑错误阳性，仅关注确保模型不会系统性地对任何群体产生不利影响。
- 预测平等衡量不同人群群体的阳性预测值是否相同[50]。它指的是实际正确的阳性预测的比例。如果一个群体的预测平等值较低，可能表明该模型的阳性预测错误较多，从而导致分类问题。
- 人口统计平等，也称为统计平等，确保不同群体获得阳性结果的概率相同[41]。如果未达到人口统计平等，则表明某些群体更有可能获得有利的结果[51]。
- 不同影响比率衡量给予弱势群体的阳性预测比例相对于优势群体的比例[52]。值为1表示公平，而值低于1表明优势群体受益更多，值高于1表明弱势群体受益更多。
- 歧视得分计算不同人群群体之间的阳性分类数量差异[52]。当这一得分接近零时，表明分类器对待各群体的方式更为公平[53]。
虽然这些群体公平性指标在识别统计差异方面具有实用性，但它们与法律对歧视和公平性的定义存在实质性分歧。正如Wachter、Mittelstadt和Russell所指出的，公平性指标并不是法律中立的工具，因为它们是否符合反歧视法律取决于它们如何处理现有的社会不平等，以及它们是仅仅维持还是改变不平等的背景条件[54]。这对于当前分析很重要，因为群体公平性指标可能在总体结果层面显示出平等，但却未能捕捉到不利情况是如何经历、合理化的以及在特定背景下是如何構成的。
首先，许多关于公平性指标的技术研究依赖于预定义的保护特征类别，如年龄、性别和种族[43]。例如，人口统计平等和不同影响比率仅根据这些类别的成员身份来衡量群体之间的有利结果是否平等。这种方法将统计平衡与公平性混为一谈，将歧视简化为群体平均值的狭义数量比较。然而，反歧视的法律框架，如2010年英国平等法，更侧重于个体而非群体。正如第13条明确规定的：“如果……一个人（A）对另一个人（B）进行歧视”，将不公平对待视为个性化的伤害。在欧盟层面，2000/43/EC号《种族平等指令》和2000/78/EC号《就业平等指令》也采用了类似的个性化歧视概念。相比之下，群体公平性指标淡化了这一焦点；即使实现了人口统计平等[45]，也不能排除对保护群体内特定个体的不利对待。这种不一致突显了一个关键差距。法律对歧视的定义集中在特定情境下对个体的不公平对待，而群体公平性指标评估的是总体结果，忽略了情境细微差别。因此，这些指标有可能满足技术基准，但未能同时达到法律对歧视的门槛和更广泛的社会对公平性的期望。
首先，许多关于公平性指标的技术研究依赖于预定义的保护特征类别，如年龄、性别和种族[43]。例如，人口统计平等和不同影响比率仅根据这些类别的成员身份来衡量群体之间的有利结果是否平等。这种方法将统计平衡与公平性混为一谈，将歧视简化为群体平均值的狭义数量比较。然而，反歧视的法律框架，如2010年英国平等法，更侧重于个体而非群体。正如第13条明确指出的：“如果……一个人（A）对另一个人（B）进行歧视”，将不公平对待视为个性化的伤害。在欧盟层面，2000/43/EC号《种族平等指令》和2000/78/EC号《就业平等指令》也采用了类似的个性化歧视概念。相比之下，群体公平性指标忽视了这一点；即使实现了人口统计平等[45]，也不能排除对保护群体内特定个体的不利对待。这种不一致突显了一个关键差距。法律对歧视的定义集中在特定情境下对个体的不公平对待，而群体公平性指标评估的则是总体结果，忽略了情境细微差别。因此，这些指标有可能满足技术基准，但未能同时达到法律的歧视阈值和更广泛的社会对公平性的期望。
例如，假设一个用于大学录取的机器学习模型旨在通过为男性和女性申请者提供相同的录取率（如每个群体40%）来确保群体公平性。如果有100名男性和100名女性申请者，该模型录取40名男性和40名女性。基于此，在比较总体群体结果时，模型看起来是公平的。然而，如果第41位女性申请者的资格比第40位被录取的男性申请者更高，那么这种统计平等实际上导致了更合格女性的不公平结果。尽管实现了统计平等，但该模型根据性别对某些女性进行了不利对待。这种情况在现实世界中也有类似的情况。例如，批评常春藤盟校录取实践的人认为，亚裔美国申请者面临更严格的标准以维持种族平衡，这意味着更合格的人可能会被拒绝，以维持群体层面的多样性目标[55]。
其次，这些指标未能纳入法律中的合理化原则。根据反歧视法律，如果间接歧视是“实现合法目标的适当手段”（例如，欧盟2000/43/EC号指令第2(2)(b)条；英国平等法第19(2)(d)条），那么它是合法的。相比之下，像平等概率这样的群体公平性指标[43]将结果（如群体之间的不同真正阳性率或错误阳性率）视为本质上不可接受的，无论上下文如何。例如，在医疗分诊或疫苗优先级等安全关键领域，一个群体的较高错误阳性率可能是合理的；在COVID-19大流行期间，根据流行病学风险评估，基于年龄和种族的差别待遇被认为是合理的[56]。这种上下文必要的不平等与允许为促进公共卫生目标而进行适当差别对待的法律标准是一致的。
正如Barocas和Selbst[57]在他们的数据驱动决策分析中所解释的，反歧视法律尤其是通过不同影响原则，允许在必要时和合理的情况下产生某些不平等的结果。因此，法律并不寻求完美的统计平等，而是要求证明差异是合理的。然而，使用群体公平性指标的技术审计忽视了这一细微差别，会将法律允许的做法视为不公平。因此，这些指标要么过于宽泛，将合法允许的做法视为不公平，要么过于狭隘，未能捕捉到缺乏统计不平衡的非法歧视。
第三，通过技术指标追求群体平等可能会导致平庸化，即减少表现较好群体的有利结果，而不是改善弱势群体的条件。这种倾向体现在诸如治疗平等[58]或平等的假阳性率[38]等做法中，这些做法强制在不同群体之间实现平衡的错误率，但并未评估平衡机制是否真正促进了公平性。实际上，实现平等可能会导致某个群体的结果恶化，而不是提升其他群体的情况。这与德里克·帕菲特[59]对“降低标准以追求平等”的哲学批判是一致的。他的思想实验设想了一个社会，其中所有人都被强制失明，以此来消除视力的“不平等”，但这样做却伤害了视力正常的人，而没有给盲人带来任何好处。同样，在机器学习系统中强制实现统计平等可能会压制某些群体的优势，而未能解决造成劣势的根本原因。通过优先考虑数学上的对称性而非实际需求，这样的措施可能会导致净福利损失，而并不能真正推进正义。最后，群体公平性指标在检测基于代理变量的不公平行为方面存在根本性的不足，特别是当劣势并不完全符合预先定义的保护类别（如性别或种族）时。这意味着这些代理变量可能会沿着与传统公平性指标中使用的人口统计分类不同的维度来构建劣势。因此，差异可能会出现在子群体内部或特征之间的相互作用中，而不是在受保护群体之间。在这种情况下，即使在系统性的劣势仍然存在的情况下，基于性别或种族的公平性指标也可能显示不出差异。例如，考虑一个使用邮政编码作为输入变量的招聘模型。假设某些处于不利地位的社区由于历史上的不平等而招聘率较低。如果这些社区的男性和女性分布均匀，该模型可能显示出性别之间的结果没有差异，从而满足群体公平性指标的要求。然而，来自这些不利地区的申请人仍然会系统性地被排除在外。在这种情况下，虽然确实存在伤害，但它并没有体现在公平性指标所设计的性别人口统计维度上，因此可能无法被检测到。

总体而言，群体公平性指标提供了一种狭隘的统计视角，这与反歧视法以个体为中心的原则不相匹配。它们忽略了是否存在可识别的非法对待经历，忽略了法律正当性的考量，并且可能通过降低标准来实现表面上的平等而非实质性的改善。此外，这些指标缺乏细致性，无法检测基于代理变量或交叉性不公平的行为。因此，尽管这些指标可以作为初步的诊断工具，但它们根本不足以评估机器学习系统中符合法律要求或具有社会意义的公平性。

5.2 个体公平性指标：相似性的局限
个体公平性指标旨在确保具有相似特征的个体从机器学习模型中获得相似的待遇，这一原则体现了“类似情况应得到相同对待”的法律原则[61]，这是反歧视法的实质性基础。已经开发出了具体的定量措施来实施这一概念，包括：
- 一致性得分：衡量具有相似特征的个体之间的预测结果有多相似[62]。如果两个特征几乎完全相同的个体仅仅因为一个敏感属性而得到不同的预测，那么该模型就违反了个体公平性。
- 反事实公平性：评估如果某个个体的受保护属性被假设性地改变，他们的预测结果是否会保持不变[63]。如果模型的预测结果在修改了该个体的人口统计信息后发生变化，这表明决策过程中可能存在偏见。
- 个体直接歧视：比较两个仅在敏感属性上不同的相似个体的决策结果[64,65]。它使用因果距离函数来评估是否存在不公平的对待。如果差异很大，那么该模型就是个体歧视性的。这一方法基于法律和审计领域中常用的“情境测试”概念。
- 努力平等：衡量来自弱势群体的个体需要付出多少努力才能达到与优势群体相同的结果[66]。它比较了两个群体的要求。一个公平的模型应确保通过相同的努力实现机会平等[67]。

尽管个体公平性指标因与反歧视法的个体中心原则相一致而具有概念上的吸引力，但它们在法律上存在显著的局限性，阻碍了与司法标准的有效结合。首先，主流方法（如一致性得分[62]、反事实公平性（Melucci, 2024）和个体直接歧视[64,65]）主要关注检测与受保护特征相关的差异性对待。这些方法测试除了受保护特征外，在所有其他方面都相同的个体是否得到不同的结果。虽然这表面上有助于检测歧视，但这些指标最终只是审计程序上的差异，而非法律意义上的实质公平性。其次，这些指标在检测歧视方面与法律标准存在根本性的差异，尤其是在处理“相似性”时。技术方法（如一致性得分或反事实公平性）通常使用统计距离度量或基于特征的嵌入来确定相似性，但法律上的比较要求个体在不同方面完全相同，除了受保护的特征之外，这种判断需要对社会和法律相关性的情境敏感分析。这一点强化了这样的批评：公平性不能被自动化[36]，因为比较、劣势和法律意义的问题不能仅通过计算相似性来解决，而是需要情境敏感的规范性评估。

考虑Coleman v Attridge Law[68]案例，欧洲法院裁定，由于与非残疾申请人（即护理人员）与残疾人的关联，她可能遭受歧视。法院认为，保护范围不仅限于受保护的群体，还包括因与受保护特征相关而受到不利影响的人（第50段）。这种对“相同情况”的解释超越了技术上的特征匹配，需要评估法律目的和社会背景。因此，一个AI模型可能根据输入特征将两个人视为“相似”，但法院可能会认为他们的情况在法律上是不可比的。个体公平性指标依赖于技术上的相似性，从而绕过了法律歧视分析中必有的推理过程。第三，个体公平性指标仅限于受保护的特征，这在复杂的算法系统中越来越显得不足，因为不公平往往源于非敏感特征或代理变量之间的相互作用，而这些特征与受保护特征之间没有明显的关联（如第5.1节所讨论的）。这种伤害可能因为超出了法律定义的歧视范围而无法被检测到。为解决这一差距，公平性审计应该超越受保护的特征范围。欧盟GDPR第5(1)(a)条要求数据处理必须“合法、公平和透明”，确立了包括可解释性和非任意性在内的更广泛的公平性标准，即使没有非法歧视也是如此。例如，一个贷款审批模型可能满足个体公平性指标，但它可能基于邮政编码等与社会经济地位高度相关的代理变量来拒绝申请人。尽管在统计上“一致”，但这样的决定违反了GDPR的公平原则，因为申请人无法合理预见基于这些隐含因素的拒绝。因此，个体公平性指标应该超越反歧视法的有限范围，涵盖数据保护框架下的积极义务。

5.3 因果公平性指标：情境正当性
因果公平性指标通过建模敏感属性与结果之间的因果关系来提供一种符合法律要求的公平性方法。这一框架能够识别那些通过关联公平性指标难以检测到的微妙且结构上嵌入的偏见。以下关键指标实现了这一范式：
- 不同对待：评估当包含或排除敏感属性时，分类器的预测结果是否发生变化[52]。如果去除敏感属性后预测结果没有显著变化，则认为分类器没有表现出不同的对待。
- 总效应：衡量改变敏感属性对模型所有因果路径上的决策影响程度[69]。它包括了该属性对结果的直接和间接影响。如果总效应在可接受的范围内，则认为模型是公平的。
- 处理效应：关注如果劣势群体的个体属于优势群体时，决策结果会如何变化[69]。它将实际结果与仅改变敏感属性后的反事实结果进行比较。如果差异很小，则模型是公平的。这一指标在分析受保护群体的实际对待情况时特别有用。
- 路径特定公平性：仅允许某些“可接受”的因果路径（例如，通过资格）影响决策结果。它阻止了不公平路径（如直接的性别影响），同时保留了公平路径[70]。如果不公平路径上的效应低于某个阈值，则模型是公平的。这一指标有助于在公平性与合理的解释因素之间取得平衡。
- 无未解决歧视：要求敏感属性不得通过技能或教育等“可解决的”变量间接影响结果[71]。如果存在任何从敏感属性到结果的直接或间接路径，这表明存在不公平。公平性的目标是消除不合理的影晌。这是对因果图结构的一种约束。
- 无代理歧视：确保敏感属性不得通过邮政编码或姓名等代理变量间接影响决策[71]。如果改变代理值会改变结果，则模型可能是不公平的。这一理念旨在阻止隐藏或掩盖的歧视。它关注于检测数据流中的间接偏见。
- 主要公平性：通过比较在不同情况下会受到相似影响的个体来评估决策的公平性，无论他们的敏感属性如何[72]。使用潜在结果框架，根据个体在两种处理下的共同潜在结果将他们分到不同的主要层别中。如果在每个主要层别内，决策都不受敏感属性的影响，则认为决策是主要公平的。这意味着在对治疗反应相似的患者中，接受特定治疗的概率不应因敏感属性而有所不同。主要层别是基于潜在结果的预设特征，不受实际治疗分配的影响。如果同一层别内的不同敏感群体的处理概率存在差异，则违反了主要公平性。

因果公平性指标通过建模敏感属性与结果之间的因果关系来提供符合法律要求的公平性方法。这些方法能够识别出那些通过关联公平性指标难以检测到的微妙且结构上嵌入的偏见。以下关键指标实现了这一范式：
- 不同对待：评估分类器的预测结果在包含或排除敏感属性时是否发生变化[52]。
- 总效应：衡量改变敏感属性对模型所有因果路径上决策的影响程度[69]。它包括了属性对结果的直接和间接影响。
- 路径特定公平性：仅允许某些“可接受”的因果路径（例如，通过资格）影响决策结果。它阻止了不公平的路径（如直接的性别影响），同时保留了公平的路径[70]。如果不公平路径上的效应低于某个阈值，则模型是公平的。
- 无未解决歧视：要求敏感属性不得通过任何代理变量直接影响结果[71]。如果存在从敏感属性到结果的直接或间接路径，这表明存在不公平。公平性的目标是消除不合理的影晌。

因果公平性指标提供了一个符合法律要求的公平性方法。然而，它们依赖于一些与法律原则本质上不一致的技术假设。最重要的是，大多数因果指标（如不同对待和无未解决歧视）将歧视等同于来自受保护属性的因果效应。然而，英国法律[73]规定，间接歧视只需证明受保护群体从中性规定中遭受了特定形式的劣势，而无需明确的因果路径。在缺乏可测量的因果关系的情况下，结构性不平等常常会导致这种劣势，这使得纯粹基于技术的因果模型在法律上是不完整的。更重要的是，像群体和个体公平性指标一样，因果方法主要关注检测属性的影响，而忽视了特征的合法性问题，即预测变量是否与决策目标有合理的因果关系。在给定的机器学习背景下，有意义的因果审计不仅要评估敏感特征是否影响结果，还要评估所使用的特征是否在决策背景下具有合理的解释性。如果没有这种双重评估，这些指标可能会认定使用了因果相关但不道德的变量（例如保险定价中的基因代理变量）的模型是合法的，从而违反GDPR的要求。

Gild招聘算法案例展示了特征不可知公平性评估中的关键局限性。分析历史就业数据时，系统优先考虑访问过日本漫画网站的申请人，因为这种行为与高绩效相关[74]。虽然没有使用任何受保护的属性，也没有发现人口统计偏差，但这种依赖性仍然是不可辩护的：由于缺乏与工作相关技能（例如，在漫画相关行业）的关联，该变量缺乏合理的依据。这违反了GDPR第5(1)(a)条的公平性原则，该原则要求数据处理符合数据主体的合理期望[75]。申请人无法预见娱乐性浏览会影响就业决策——这种透明度的缺失被欧洲数据保护委员会视为本质上不公平[76]。此外，该案例还表明，技术上“中立”的特征可能会导致超出传统歧视审计范围的任意结果。即使没有与受保护特征的因果联系，这种不透明的推断也会违反GDPR的实质性公平性标准，因为它引入了不透明的决策因素，缺乏与组织目标的相关性，并造成了不必要的劣势。这说明了为什么公平性框架必须超越基于属性的歧视，来评估情境合理性——这是ICO关于AI问责制的指南[75]中强调的要求。因此，因果公平性审计必须超越仅仅映射敏感属性与结果之间的路径。它们应该审查预测变量是否与模型的合法目标具有在情境上可辩护的因果关系，评估的不仅仅是统计依赖性，还包括基于领域特定相关性的规范合理性。这种转变需要将因果合法性、特征与目的之间联系的可辩护性和比例性作为核心公平性标准，在GDPR等法律框架下加以重视。总之，虽然技术研究中的公平性指标是识别机器学习输出差异的有用工具，但它们未能完全捕捉到公平性和歧视的法律含义。群体、个体和因果指标都依赖于简化假设，这些假设未能充分反映关于比较对象、理由和广泛公平性要求的法律标准。因此，这些指标可能会产生误导性的合规性评估。要弥合这一差距，需要将法律学说，特别是比例性和合理预期，整合到公平性指标的设计、评估和解释中，确保审计既保持统计严谨性，也符合GDPR和平等法的规范基础。

6. 技术缓解策略和法律影响
已经提出了三种主要阶段的策略来缓解机器学习模型中的不公平现象：预处理、处理中和后处理[77]。预处理技术侧重于在数据输入模型之前对其进行修改，例如平衡不同群体的表示或去除有偏特征。处理中策略在模型训练阶段进行干预，通过调整学习算法本身来纳入公平性约束或促进公平结果，通常通过修改目标函数或应用正则化技术来实现。后处理方法在模型训练后应用，以调整预测或输出，确保不同群体之间的结果更加公平，例如重新校准决策阈值或重新加权预测。虽然这些方法旨在提高统计公平性，但它们也会改变决策的生成、表示和解释方式。本节将批判性地评估这些技术，重点关注其技术特性如何与透明度、问责制和歧视相关的法律要求相互作用。

6.1. 预处理：数据修改和证据保留
预处理方法通过在模型使用之前修改训练数据来减轻偏见。常见的技术包括基于哈希的抽样、重新加权、分布对齐（例如，差异影响消除器）、重新标记、生成方法、合成数据生成（例如，公平合成少数样本过采样技术Fair-SMOTE）、和基于回归的方法以及使用Wasserstein对抗性投影的公平抽样（FairSWAP）。
基于哈希的抽样用于从满足某些条件（即布尔约束）的大量可能解决方案中随机且公平地选择样本，而不偏向任何特定群体或模式[78]。在规则集中添加XOR约束，将解决方案空间划分为较小的分区。然后该方法随机选择一个分区并从其中选择一个解决方案。如果该分区只有一个解决方案，则认为这是公平的选择，并在最终模型中使用。这种技术通过防止模型仅从过度代表的模式或群体中学习而产生的偏见来促进公平性。通过均匀地从所有可能的公平解决方案中抽样，训练数据变得更加平衡，提高了模型公平对待所有群体的能力。
重新加权根据训练样本的敏感属性应用不同的权重[79]。这种方法确保在模型训练过程中更好地考虑代表性不足的群体。它通过使模型对代表性不足的群体更加敏感来改变学习方式。公平性评估指标在每个子群体上进行评估，并用于在反向传播过程中重新加权梯度[80]。然而，增加某些样本的权重可能会降低整体模型准确性，特别是如果加权样本更难以准确预测时[81]。
差异影响消除器修改数据集中的特征值，从而使由受保护属性定义的不同群体之间的结果分布相似[82]。调整数据的分布可以消除敏感属性与其他特征之间的相关性，减少敏感属性的差异影响或歧视效应。各群体之间的总体分布更加一致，同时保持每个群体内实例的排名[83]。然而，由于特征调整改变了原始数据分布，它们可能会降低模型准确性。
重新标记是一种用于更改训练数据中的标签或结果以纠正不公平模式的技术[84,85]。例如，如果数据显示尽管资格相同，但男性比女性更有可能被雇佣，重新标记可以通过调整一些结果来帮助解决这个问题。这一过程旨在平衡不同群体的待遇，使雇佣结果在男性和女性之间更加平等。然而，尽管这有助于减少偏见，但也可能扭曲原始数据。通过改变实际结果，我们可能会失去一些真实背景信息，这可能会影响模型的准确性或使其预测结果的可信度。
生成方法专注于创建新的合成数据以平衡训练集[86]。当某些群体代表性不足时，例如如果数据集中的老年人记录比年轻人多很多，生成模型可以为代表性不足的群体创建新的、真实的示例，以确保模型从各种类型的数据中平等学习。这种方法不会改变现有数据，而是通过补充更多示例来工作。虽然它可以使数据集更加平衡，但生成合成数据很棘手；需要仔细注意以确保新数据与现实世界模式相匹配，并且不会引入新的偏见。如果处理不当，可能会对模型性能或公平性产生负面影响。
Fair-SMOTE生成合成样本，以平衡不同敏感属性群体之间的类别分布[87]。通过增加代表性不足的数据点，Fair-SMOTE有助于减轻不平衡数据集中的偏见。然而，生成人工样本可能会引入噪声，可能影响模型的可靠性[88]。Fair-SMOTE特别适用于二元和多敏感属性。
和积网络是一种概率图模型，可以有效地表示和计算变量之间的复杂概率关系，并可能通过解决敏感属性如何影响预测来帮助减少机器学习模型中的偏见和不公平性[89,90]。和积网络可以识别数据集中哪些变量依赖于受保护属性，哪些是独立的。关键思想是训练模型，使其消除这些敏感属性的影响，从而促进更公平的预测。一旦和积网络经过训练，它允许研究人员在控制受保护属性的情况下计算任何一组未受保护属性的概率。通过这种方式，和积网络有助于“消除”敏感属性的贡献，确保模型的决策过程不依赖于这些属性的偏见信息。通过将变量分离成受保护属性独立的子集，模型仅使用不依赖于敏感信息的功能，从而提高公平性。为了处理受保护属性影响的依赖变量，该方法会调整这些变量以消除来自敏感属性的任何贡献。对于连续变量，可以将受保护属性的贡献视为一个加法常数。使用SPN，可以在排除受保护属性的影响的情况下预测这些变量的值。对于分类变量，调整变得更加复杂，因为这些变量可能没有明确的顺序，而且在不丢失宝贵信息的情况下消除受保护属性的影响是一个挑战。所提出的解决方案涉及计算给定受保护属性的变量条件分布，并调整分类变量以中和它们对敏感属性的依赖性。虽然这种方法可以通过减少模型利用有偏特征的能力来提高公平性，但在处理更复杂的模型（如神经网络）时可能不总是表现良好，这些模型可能会发现新的偏见模式。尽管如此，和积网络提供了一种结构化的方法，通过限制敏感属性对模型预测的不当影响来解决机器学习中的公平性问题。
基于回归的方法从数据预处理阶段开始，通过识别和减少敏感属性与非敏感特征之间的统计关联来提高公平性[91]。在数据集内，使用多元回归来检查非敏感特征与多个敏感特征之间的关系。对于每个非敏感特征，该方法测试其变化是否可以显著地由敏感特征解释。这是通过统计假设检验来完成的，例如使用t分布的Wald检验来确定关系是否足够强以被视为显著。只有那些在统计上依赖于敏感特征的特征才会被调整。通过减去每个非敏感特征可以通过敏感特征预测的部分，有效地“去偏”数据。结果是一个修改后的训练集版本，在该版本中，非敏感特征不再受敏感特征的影响。这种预处理策略有助于防止模型学习不公平的关联，并促进人口群体之间的更公平结果。
对于面部识别，FairSWAP方法旨在解决由性别或面部特征等敏感属性引起的偏见[92]。简单来说，FairSWAP通过在训练期间混合这些无关特征来帮助模型变得更加公平和无偏见。它在两个具有不同属性的受试者的图像之间交换特定区域（例如，一个人的胡须、眼镜或妆容），从而创建新的、复杂的图像。这鼓励模型更多地关注检测攻击（例如，经过Photoshop处理的图像），而不是关注性别或身份等无关特征[93]。这样做的目的是破坏模型对这些无关属性的依赖，确保模型只学习有助于区分真实面孔和假面孔的关键特征。这种补丁交换技术使模型更难根据敏感特征（如性别或发型）学习捷径，而是迫使它学习区分真实和假面孔的真实特征。这导致了一个更公平的模型，不会受到无关人口因素的偏见影响。
设计用于在模型训练之前缓解统计不公平性的预处理方法通常优先考虑群体级别的分布平衡。虽然这种方法在提高公平性指标方面有效，但它可能与法律公平性标准冲突，后者要求进行情境敏感的评估，而不仅仅是统计上的平等。此类技术有可能忽视合法差异，例如英国平等法第19(2)(d)条中规定的合理差异对待，并将适度实践误分类为歧视，从而创建重大的合规性盲点。
从更根本的角度来看，数据级别的干预措施，如重新标记[94]、Fair-SMOTE[87]和差异影响消除器[82]，根据GDPR第5(1)(a)条引发了深刻的法律问题，特别是在透明度、问责制和可审计性方面。从技术角度来看，这些方法通过修改数据集内的统计关系来操作，包括联合分布和条件分布。例如，重新标记改变了观察到的结果分布，合成抽样引入了近似原始数据分布的生成观测值，基于回归的“去偏”消除了受保护特征与非受保护特征之间的统计依赖性。
这些转换对法律审计有直接影响。首先，它们影响可追溯性，因为模型预测基于修改后的或部分合成的数据，而不是原始的实证分布。这使得重建结果与现实世界模式之间的关系变得更加困难。其次，它们减少了统计可检测性，因为可能表明间接歧视的相关性和差异被减弱或消除。第三，它们影响证据可靠性，因为一些观察到的关系被人为的关系所取代，使得区分结构性不平等和基于公平性的调整变得更加困难。
主要问题不是合成或修改后的数据本身无效，而是这些转换可能会削弱模型行为与数据中反映的原始社会经济条件之间的联系。从法律角度来看，这种联系对于证明歧视、评估比例性和向受影响个体提供有意义的解释至关重要。通过改变观察到的结果分布或生成合成数据，这些方法会：
- 隐藏决策路径，违反透明度要求；
- 通过人为的审计痕迹削弱责任追究；
- 由于数据主体无法预料到被伪造的变量对结果的影响，从而违背了合理 expectations。

法律对这类预处理干预措施的担忧并不在于修改后的或合成的数据本身不如原始数据准确；事实上，一个构建良好的合成数据集可能能够忠实地复制原始数据的统计特性。真正的担忧在于其结构和证据支持方面的问题。主张存在间接歧视的一方必须证明某种中立的做法使受保护群体处于“特定的不利地位”，这是英国《2010年平等法案》第19(2)(b)条和欧盟《2000/43/EC指令》第2(2)(b)条所要求的。当预处理移除了非受保护特征与受保护特征之间的统计关联时，即使生成这些关联的潜在社会条件仍然存在，也无法从修改后的数据集中恢复出证明这种不利地位所需的模式。此外，《通用数据保护条例》（GDPR）第5(2)条规定的责任义务要求数据控制者能够证明其合规性；当训练数据经过算法处理变得不可识别时，控制者将无法将结果追溯到现实世界的情况。因此，问题不在于数据质量，而在于保护法律审查所依赖的信息路径。

非合成方法，如基于回归的方法[91]和求和-乘积网络[90]，虽然引入了相关的但不同的挑战。这些技术旨在消除受保护属性与其他特征之间的统计依赖关系。虽然这可以减少模型对敏感信息的依赖，但也改变了识别歧视的统计路径。表2概述了他们对受保护属性进行数学过滤可能带来的法律后果。

**表2. 预处理属性过滤的法律后果**

| 技术目标 | 法律后果 |
|---------------------------------|------------------------------------------|
| 创建“中性”特征 | 降低反映系统性劣势模式的可见性 |
| 删除由受保护属性解释的属性组成部分 | |
| 去除统计依赖关系 | |
| 隐藏证明间接歧视的路径 | |
| 强制受保护变量与非受保护变量之间的独立性 | |

例如，基于回归的方法会消除每个非敏感特征中可以由性别或种族等敏感属性统计解释的部分。假设一个数据集将教育成就作为一个预测特征，并且由于教育机会的系统性不平等，教育水平受到种族的强烈影响。基于回归的方法会尝试从教育变量中去除这种种族影响，从而产生一个“种族中立”的版本。虽然这可能减少统计依赖性，但它有可能抹去反映现实世界劣势的有意义模式。基于回归的“中性化”这种特征掩盖了结构不平等的法律相关证据，违反了英国《2010年平等法案》第149条规定的解决劣势的义务，并且在统计上抹去了歧视的标志，而没有实质性地处理其影响。

此外，基于哈希的采样方法将解决方案空间划分为大小相等的部分，并随机选择一个。这意味着所有可行的解决方案都有相同的被选中的概率。然而，这只能减少历史偏见，但不能满足法律对公平性的要求。

总体而言，这些方法提供的解决方案并不完整。如果没有嵌入上下文合理化协议、结构性劣势保护机制以及符合GDPR的透明度保障措施，它们可能会以阻碍实质性公平的方式清理数据——在掩盖歧视的同时产生新的合规责任。这表明，公平性干预措施不仅应优化统计结果，还应保留法律审查所需的信息结构。

6.2. 进展中的处理：嵌入式约束和责任追究
进行中的处理技术通过在训练过程中纳入公平性约束、对抗策略或正则化项来干预学习过程。与预处理不同，这些方法不修改输入数据，而是重塑模型的优化目标，从而影响预测的生成方式。常见的方法包括Meta Fair Classifier (META)、对抗性去偏见（ADV）、基于正则化的方法、FairMask、约束优化和指数梯度方法。

META使用元学习算法在训练过程中优化公平性[95]。通过明确定义公平性约束，这种方法允许从业者平衡公平性和准确性。然而，元学习的复杂性增加可能会导致更高的计算成本和潜在的过拟合问题，因此需要仔细微调模型。

ADV利用对抗性训练来去除关于受保护属性的信息，同时保持模型的准确性[70]。模型在被训练进行预测的同时，对抗网络试图检测敏感属性。通过同时优化这两个组成部分，模型学会了做出更公平的预测。然而，这种方法计算成本高且实施复杂。ADV可以处理离散和连续属性，是一种灵活但资源密集型的方法。

正则化是一种通过向损失函数添加惩罚项来帮助减少机器学习模型中偏见的技术[96]。这种惩罚项阻止模型学习不公平偏袒某些群体的模式。一个特殊的系数用于平衡准确性和公平性之间的权衡，确保模型在对待所有群体时更加公平[97]。当模型可能会过度拟合或依赖于有偏数据时，这种方法特别有用。然而，如果正则化参数调整不当，可能会影响模型的准确性。对于神经网络，会计算每个群体的公平性指标，如人口统计平等或均衡概率[43]。然后使用这些指标在反向传播过程中重新加权梯度，帮助模型以更公平的方式学习。对于具有多个任务的模型，动态公平性加权因子会在每个训练步骤中调整每个任务的重要性。神经网络随后优化一个称为“动态公平性加权损失”的特殊损失函数，从而在整个训练过程中平衡公平性和性能。

FairMask在测试时动态修改受保护属性，通过在推理过程中调整数据来增强公平性，确保预测在现实世界应用中保持无偏见[98]。这种方法平衡了公平性和性能，尽管可能需要额外的计算资源。FairMask适用于二元和多敏感属性，在需要实时决策中维持公平性的应用中非常有用。

约束优化直接将公平性项加入模型的目标函数中，通常是通过操纵混淆矩阵成分来确保不同群体的预测是平等的[99]。它是领域无关的，需要仔细调整超参数以避免破坏模型的性能，特别是在处理复杂、非凸问题时。

指数梯度方法通过反复调整模型对某些训练例子的关注度来工作[100]。如果模型做出不公平的预测（例如偏爱某个群体），算法会通过为模型表现不公的例子分配更多权重来做出反应。然后使用这种更新后的重点重新训练模型，这个过程不断循环进行。随着时间的推移，这有助于模型在仍然追求准确预测的同时提高其公平性。这类似于教导模型更加关注其错误，特别是在这些错误可能导致歧视的情况下。

进行中的处理方法与预处理的根本区别在于它们将公平性约束直接嵌入到训练逻辑中，而不是修改输入数据。从数据调整到算法优化的转变引入了两个关键的法律挑战。首先，将公平性编码到模型的损失函数或训练算法中（如元学习[95]和约束优化[99]），将基于上下文的法律原则转化为固定的数学目标。虽然模型可能满足总体公平性标准，但很难解释个体决策是如何实现公平性的。内部优化过程可能显示出对预定义指标的 compliance，但并不一定能透明地说明为什么做出了特定决策。这引发了深刻的责任追究问题：法律上的公平性要求有透明、可审查的过程，而深嵌入的技术参数则掩盖了决策是否符合法律标准或反映了未经质疑的设计选择。

其次，抑制模型对敏感属性感知的技术（如对抗性去偏见[70]和FairMask[98]）有可能抹去平等法要求我们识别的差异。这些方法通过强制统计独立性或限制属性推理来减少或消除模型对受保护属性的依赖。尽管在技术上防止了直接歧视，但这种属性盲视阻碍了对间接歧视的检测，尤其是在面部中立规则不成比例地伤害受保护群体的情况下。这违反了反歧视法律下的法律义务，例如英国《2010年平等法案》中规定的内容。表3概述了在处理过程中抑制属性感知的技术如何削弱法律责任追究，特别是在涉及间接歧视的情况下。

**表3. 进行中的处理中属性抑制的法律后果**

| 技术方法 | 法律后果 |
|---------------------------------|------------------------------------------|
| 删除属性感知 | |
| 隐藏结构性劣势 | |
| 阻止间接歧视主张的证明路径 | |
| 例如，一个针对种族进行对抗性去偏见的贷款模型将无法识别基于邮政编码结果中的种族相关劣势，无法评估观察到的差异是否构成非法的间接歧视，也无法根据比例性测试评估其合理性（英国《2010年平等法案》第19(2)(d)条）。这种人为的中立性与平等法的目的相冲突，即不是忽视差异，而是纠正其歧视性影响。 |

此外，这两个挑战都源于更深层次的错位：进行中的处理方法优先考虑计算公平性，而忽视了法律的程序性和实质性维度。像GDPR第22(3)条这样的法律框架要求对自动化决策进行“有意义的解释”，然而优化约束仍然是不透明的黑盒参数。同样，英国《2010年平等法案》的预见性义务（第149条）要求主动识别劣势，但在模型对受保护特征“视而不见”的情况下这是不可能的。

因此，尽管进行中的处理方法可能实现统计上的平等，但它们经常用数学优化取代了规范性的理由，消除了法律上必要的诊断能力，或通过隐藏的决策逻辑创造了合规风险。这些限制呼应了我们的更广泛批评；技术上的公平性干预措施仍然与法律对上下文审查、透明性和对结构性不平等的反应性的要求不一致。除非方法设计纳入了原则性原则，特别是比例性评估和劣势诊断，否则进行中的处理方法将继续产生在法律上容易受到挑战的“公平”模型。

6.3. 后处理：输出调整和透明度
后处理技术在训练后调整模型预测以实施公平性约束。这些方法包括均衡概率处理、校准均衡概率、拒绝选项分类、模型聚合、校准和基于相关性的方法。这些方法不修改模型本身，而是修改其输出以符合公平性目标。

均衡概率处理修改预测标签，确保不同群体间的真正正面率和假阳性率相等[101]。这种方法通过平衡真正正面率和假阴性率来确保模型在不同群体间的表现相同[102]。它不是重新训练模型，而是单独调整每个群体的决策阈值，即决定预测是正面还是负面的分数[103]。这种阈值调整过程可以使模型的预测在不同人口群体间更加公平和平衡，同时不损害其整体实用性或需要访问其内部训练过程。

校准均衡概率采用更精细的方法，通过调整预测概率而不是最终标签[104]。这种方法在最小化不必要的预测变化的同时优化公平性。然而，像均衡概率处理一样，校准均衡概率也需要校准，这会增加计算负担。校准均衡概率主要应用于性别或年龄组等二元敏感属性。

拒绝选项分类修改位于决策边界附近的预测实例[79]。当模型不确定时，这种方法分配的结果在公平性和准确性之间取得平衡。这种方法确保在模糊情况下优先考虑公平性。虽然有效，但需要仔细调整以避免过度调整公平性，从而可能影响整体性能。这种方法适用于二元和多类敏感属性，适用于需要保持实时公平性的场景。

模型聚合结合多个模型来优化公平性和性能[105]。汇总来自不同模型的预测可以减少偏见，同时保持准确性。这种集成方法平衡了公平性和模型鲁棒性，但会增加计算复杂性。为了算法公平性进行的模型聚合适用于处理二元和多类敏感属性，其中公平性考虑至关重要。

校准调整模型的输出概率，以确保正面预测的可能性反映了每个群体中正面实例的真实比例。核心思想是，如果模型基于概率进行预测，那么应该对其进行校准，使预测的正面比例与每个群体中的实际正面比例相匹配。这种方法旨在确保没有任何群体因其特征而被系统性地过度预测或低估，从而确保公平性在正面预测的分配中得到体现。其中一种校准方法是公平插值方法[106]。该设计旨在调整预训练模型的输出，以平衡多个公平性标准，例如不同人群组的校准、平等的假正率和假负率。核心思想是利用最优运输理论转换模型的输出分数，依赖历史性能数据来计算每个组的分数概率分布及其对应的真实结果[107]。对于每个公平性标准，算法都会修改原始的分数分布，以生成满足给定约束的新分布。例如，校准是通过用实证观察到的真正为正的概率替换分数来实现的；负类的平衡是通过调整条件为负的分数分布来实现的，正类也是如此[108]。然后使用Wasserstein重心将这些修改后的分布结合起来，权重由用户选择，以反映对每个公平性目标的期望重视程度。通过使用这种转换后的分数分布的凸组合，该方法可以在不重新训练原始模型或更改数据的情况下产生更公平的评分函数。这种公平性方法提供了一种数学上稳健且具有上下文敏感性的方式来调整机器学习结果。它使决策者能够在群体公平性和个体公平性之间进行权衡，而不是强制做出二选一的选择。

Loureiro等人[109]开发了一种基于相关性的代表性公平性指标选择方法。该过程从分层抽样开始，将数据分割成确保所有群体（包括少数群体）得到公平代表的形式。这有助于避免数据中的偏见，并确保公平性指标基于一个代表性良好的数据集进行计算[110]。模型训练完成后，会计算多种公平性指标，并使用新模型重复此过程多次，以收集关于这些指标行为的足够数据[42]。然后应用停止准则，以确定何时进行了足够的迭代。通过使用称为中位数绝对偏差的统计度量，该方法确保在公平性指标稳定时停止模型创建过程，从而避免不必要的计算工作。一旦满足停止条件，就使用Kendall的tau相关系数分析公平性指标的相关性，以帮助根据它们之间的关系识别最具代表性的指标。将密切相关的指标分组，并从每个组中选择一个指标作为公平性评估的代表。

从技术角度来看，后处理方法通过对模型输出空间施加变换来操作。这些包括修改决策阈值、重新分配分类边界附近的标签或重新校准预测概率。例如，平等赔率调整通过应用特定于组的阈值来强制各组之间的错误率平等，而校准后的平等赔率则通过最小偏差修改预测概率以满足公平性约束。拒绝选项分类选择性地改变不确定区域中的决策，而基于校准的方法则使用最优运输等统计技术转换分数分布。虽然这些技术在操作上很方便，但它们引入了需要严格审查的明显法律问题。

后处理创建了一个两阶段决策过程，其中原始模型产生预测，随后的转换调整输出以满足公平性标准。因此，一个核心问题是公平性与决策逻辑的分离。如同等赔率处理[101]和校准后的平等赔率[104]这样的方法应用特定于组的阈值来独立于模型的推理平衡统计结果。因此，最终决策不再直接反映模型学习的决策函数，而是模型输出和公平性调整的结合。这种分离违反了GDPR“公平和透明处理”要求（第5(1)(a)条）中规定的公平性必须嵌入决策过程中的法律原则。通过将公平性限制在后处理优化层，这些方法削弱了程序完整性，将公平性降低为统计校正而不是实质性的理由。

此外，这些后处理方法通常依赖于特定于组的转换，例如为不同的人群组应用不同的阈值。从技术上讲，这意味着决策规则变得依赖于受保护的属性，即使原始模型并非如此。虽然这可能改善了群体层面的公平性指标，但它在解释个体层面的决策时引入了复杂性。同样令人担忧的是解释权和补救权的削弱。像拒绝选项分类[79]和公平插值[108]这样的技术在不透明度边界附近不可见地修改决策， créant des voies de décision inexplicables. 这些转换可能会降低重建的能力，因为很难从最终输出中恢复原始的决策逻辑。这直接违反了GDPR第15(1)(h)条和第71段的规定，后者保证了对自动化决策逻辑的有意义解释和对受影响个体的有效挑战机制。当公平性调整与原始推理脱节时，个人无法确定受保护的特征是否影响了结果，阻碍了根据英国平等法第19条提出的歧视索赔。例如，如果通过调整后的阈值被拒绝的贷款申请者无法确定种族是否影响了决策，从而无法进行有意义的补救。

总之，尽管后处理技术提供了实际的差异减少手段，但它们有可能削弱透明度、合理性和问责制等核心法律保障。表4概述了人为地将公平性与基础决策理由分离的法律后果。

总体而言，这些限制反映了更广泛的趋势：预处理、过程中处理和后处理阶段的技术干预更重视统计平等性而非法律合规性。为了实现有意义的对齐，需要将上下文合理化协议整合到决策过程中，并确保从头到尾遵守GDPR的公平性义务和平等法的实质平等框架。

7. 术语不一致和概念差异
技术文献经常使用“偏见”、“歧视”和“不公平”这些术语，但没有指明它们的不同法律含义。这种概念上的不精确性阻碍了对技术干预是否符合法律平等标准的有意义评估。例如，Patnaik和Wang[62]通过一致性分数来定义个体公平性，当几乎相同的个体仅基于敏感属性得到不同预测时，即认为存在违规。这种定义与直接歧视（欧盟第2006/54/EC指令第2(1)(a)条；英国2010年平等法第13条；美国民权法第七章第703(a)条）紧密相关，而不是欧盟GDPR要求的更广泛的公平性原则，后者要求透明度、合理性和利益平衡。这种框架倾向将公平性与歧视等同起来。

同样，Melucci[63]引入了反事实公平性指标来检测“偏见”，通过假设情景来改变个体的敏感属性并检查预测的稳定性。尽管在直觉上与不公平性相关，但它未能区分统计偏见和非法歧视。从法律上讲，只有当偏见导致与受保护属性相关的实际不利后果或违反GDPR的公平性义务时，才构成违规。当“偏见”与“不公平”或“歧视”同义时，这一关键阈值就被模糊了。

预处理方法，如重新标记[84]和Fair-SMOTE[87]，就是这种混淆的例子。它们将统计不平衡视为本质上具有歧视性，修改或生成标签以强制平等，而不评估差异是否反映了法律上不合理的劣势。这种方法有可能在简化法律评估的同时，抹去上下文相关的差异。

群体公平性指标，如差异影响比率[52]和人口平等[41]，经常将统计差异解读为明确的“歧视”。然而，只有当统计不平衡导致不合理的劣势时，才构成非法歧视，这需要根据欧盟指令2000/43/EC第2(2)(b)条或英国2010年平等法第19(2)(d)条等立法进行比例性测试。通过将差异等同于歧视，这些研究可能忽视了合规所需的法律细微差别。

因果公平性指标，如不同对待[52]，仅关注直接的属性-结果影响。这种关注忽略了间接歧视原则[111]，其中面部中立的规则通过邮政编码等与种族相关的代理变量对受保护群体造成不成比例的伤害。技术指标如无未解决的歧视和无代理歧视通常通过强调直接因果效应来复制这一限制，同时忽略了结构性或基于代理的劣势。

后处理方法，如校准后的平等赔率[104]，通过平衡输出来强化这种结果导向的关注点，而不检查原始逻辑是否反映了结构性劣势，从而强化了统计平等满足法律公平性的错误假设。这些做法展示了现有技术文献中系统性的术语混淆，可以总结如下：
- “偏见”被简化为统计偏差，
- “歧视”与人口差异被混淆，
- “不公平”与GDPR的规范框架分离。

这种在技术研究中对偏见、歧视和不公平的混淆造成了重要的实际模糊性，可能会误导政策制定者和实践者。使用法律定义澄清这些术语对于使技术方法与监管标准保持一致、促进更有效的跨学科协作以及确保机器学习公平性评估能够经受法律审查至关重要。

8. 结论
本研究通过系统回顾2020年至2025年间发表的51篇同行评审的研究，探讨了技术公平策略与非歧视和数据保护法律标准之间的对齐情况。审查涵盖了各种机器学习应用中的偏见、歧视和公平性问题，发现大多数关注公平性的机器学习研究集中在医疗保健领域，其中美国的研究人员贡献了最大的份额。神经网络和随机森林是最常研究的算法，而种族和性别是主要的受保护属性。对该领域的兴趣正在增长，这从近期发表的论文数量和引用次数增加中可以看出。不公平的常见来源包括抽样偏见、测量偏见和算法偏见。公平性通常使用群体、个体和因果公平性指标来衡量；然而，这些指标往往反映了与法律标准不符的技术优先事项，特别是在透明度、合理性和比例性方面。尽管已经在预处理、过程中处理和后处理阶段开发了技术缓解策略，但它们经常未能达到法律预期。每个阶段都面临着与问责制和可解释性相关的独特挑战，这突显了技术解决方案与法律框架之间更紧密整合的必要性。

为了解决我们分析中发现的技术公平性指标与法律标准之间的关键不一致，我们提出了一个基于五项原则的审计框架，旨在将法律推理嵌入机器学习公平性评估实践中。该框架不再将法律合规视为事后应用的外部约束，而是将审计视为一个必须从一开始就基于其管辖范围、目标、指标选择和方法选择来合法定位的过程。

(1) 建立管辖基线
每个公平性审计都必须在其开始时明确界定其适用的法律框架。歧视阈值的标准（例如英国2010年平等法与欧盟第2000/43/EC指令）、受保护特征（例如性别身份包容性）因不同成员国而异，以及合理性的测试（例如欧盟的比例性与美国法律中的真正职业资格）也存在实质性差异。忽视这一规范的审计可能会使用不相关的标准，例如将符合GDPR的透明性协议应用于受ECOA监管的美国信贷模型，其中以结果为导向的差异影响分析占主导地位。这一基础步骤确保了监管的相关性，并防止了跨司法管辖区的过度概括。

(2) 区分歧视审计和公平性审计
技术文献通常将公平性与缺乏群体差异混淆，将其简化为狭义的反歧视合规性。从法律上讲，这些目标需要不同的框架，如表5所述。

表5. 歧视审计与公平性审计之间的关键区别。

| 目的 | 歧视审计 | 广义公平性审计 |
|---------------|---------------------------------------|----------------------------------------|
| 目标 | 发现特定法规下的非法歧视 | 评估如GDPR第5(1)(a)条等制度下的更广泛公平性 |
| 范围 | 包括透明度、可解释性 | 包括透明度、可解释性 |
| 法律基础 | 平等立法 | 基于数据保护法律 |
| 阈值 | 非法劣势 | 合理预期 |
| 例如 | 差异影响分析 | GDPR第22(3)条解释权利 |

因此，审计必须声明它们是要检测特定法规下的非法歧视，还是评估如GDPR第5(1)(a)条等制度下的更广泛公平性。这种区分防止了将人口平等指标作为法律合规性代理的常见错误。

(3) 根据行业特定要求进行情境化
实际上，公平性义务本质上取决于领域。机器学习部署的法律和伦理影响在不同操作环境中差异显著，需要定制的审计方法。例如，招聘算法需要遵守ICO就业实践守则关于透明度和合理候选人期望的规定，信用评分模型需要根据消费者信贷法的规定进行比例性评估，其中“支付能力”构成了合法目标，而预测警务系统必须协调公共安全目标与英国平等法的公共部门平等义务，以消除歧视。在进行指标选择之前，审计必须明确行业特定的合法目标，例如降低信用风险与保障医疗诊断的准确性、受影响的人群，以及法律上可识别的损害阈值。(4) 设计基于法律的指标

在去除背景因素后，指标必须落实适用的法律标准：
- 对于就业/医疗等高风险领域：应优先考虑个人受到的损害指标（例如，反事实的不公平性）而非群体间的平等性；
- 整合合理性的框架：修改如条件性人口差异之类的指标，以纳入比例性权重；
- 透明度要求：在统计指标中增加与GDPR第71条解释性规定相符的可解释性评分。

例如，根据法律原则进行的贷款审批审计可能会结合假阴性率公平性、确保个人受到的损害、特征合理性分析、确认比例性以及本地可解释性评分，从而保障透明度。(5) 与法律保障相一致的方法选择

最后但同样重要的是，技术干预措施必须维护核心的法律保护，如表6所示。

表6. 不同干预阶段的法律风险和保障措施

| 干预阶段 | 主要法律风险 | 缓解策略 |
| -------- | -------- | -------- |
| 预处理 | 删除不利证据 | 保留有偏见的诊断特征 |
| 处理中 | 黑盒约束嵌入 | 文档优化理由 |
| 后处理 | 解释不连续性 | 审计轨迹协调协议 |

涉及法律专家的合作协议设计应确保三重保障：合成数据生成不会故意违反GDPR第5(1)(b)条关于限制的规定；对抗性去偏见措施能够保留歧视的诊断能力；阈值调整应包含可追溯的覆盖日志。

最终，有效的公平性审计需要将这些原则整合到一个连贯的流程中，具体步骤如下：
1. 管辖区的界定明确规则框架；
2. 目标的具体化确定审计类型；
3. 行业背景的考虑识别适用规范；
4. 指标的定制落实法律测试；
5. 方法的审核确保程序合规性。

该框架将审计从单纯的技术检查转变为能够证明实质合规性的证据收集过程。通过从范围界定到补救措施的整个过程中嵌入法律推理，审计可以提供可操作的见解，同时建立三个相互关联的支柱：基于情境公平性的统计公平性；符合行业特定法律标准的监管合规性；以及确保以人为中心的伦理治理的责任机制。总体而言，这些措施推动机器学习系统超越技术验证，迈向基于法律严谨性的真正可信度。

本研究存在一些局限性。系统评价仅限于2020年至2025年间发表的英文同行评审期刊文章，可能遗漏了相关的会议论文、灰色文献和非英文学术成果。法律分析主要参考了欧盟、英国和美国的框架；尽管这些地区在人工智能和数据保护法律方面最为成熟，但结论可能不能直接适用于其他监管环境。此外，随着法院和监管机构对《欧盟人工智能法案》等新兴法规的解读，公平性、偏见和歧视的法律含义仍在不断演变，因此这里的一些规范性评估可能需要随着监管环境的成熟而重新评估。

未来的研究应探讨如何将此处提出的审计框架应用于特定的高风险领域，针对实际部署场景进行测试，并与监管机构、开发者和受影响社群进行对话以进一步完善。随着全球范围内人工智能系统的监管不断成熟，法律学者和机器学习研究人员之间的跨学科合作需求将更加迫切。本研究旨在通过证明技术公平性和法律合规性不是相互冲突的约束，而是公平和可信人工智能的互补维度，为此类对话做出贡献。