公平性的操作化实现：在资源严重受限条件下的有界阈值启发式方法

《Neurocomputing》：Operationalizing fairness: A bounded threshold heuristic under hard resource limits

　　莫伊兰格姆·蒂肯·辛格|阿米特·卡利塔|萨帕姆·吉图·辛格
印度阿萨姆邦迪布古尔大学DUIET计算机科学与工程系

摘要
在高风险领域应用机器学习时，需要平衡预测安全性与算法公平性。然而，现有的公平性方法往往假设资源充足，且许多方法采用针对特定群体的阈值，这可能与某些司法管辖区的反歧视法规相冲突。我们提出了一种事后的、与模型无关的受限部署规则，该规则在严格的容量限制下，通过单一的、具有法律可行性的全局阈值来平衡安全性、效率与公平性。我们的方法将可调节的伦理损失函数与限制规则相结合，后者能确保干预措施不会超出可用资源。我们明确了这一限制规则的六个可分析的结构特性，包括安全饱和点以及关键容量范围的明确界定。在三个基准数据集上的实验——涵盖收入预测、再犯风险评分和二元分类任务——表明，在我们的实验权重设置下，容量限制始终占据主导地位，在78.2%的测试配置中决定了最终阈值。我们还发现了公平性权重的两种不同作用机制：在始终受限模式下，容量限制决定最终结果，使得公平性调整实际上无效；在过渡模式下，提高公平性权重会使无约束最优解低于容量限制，从而激活约束条件，带来的召回率提升源于资源限制而非公平性权重本身。在25%的容量限制下，该受限规则可实现0.393–0.748的可行召回率，能够在无约束优化导致策略不可用、仅考虑公平性的方法失效的情况下恢复系统效用。我们得出结论，为确保算法可部署，必须将公平性目标与操作容量限制明确协调。通过将预测与策略评估分开，这一受限部署规则为在资源限制下处理伦理权衡提供了结构清晰、实际可行的机制。

引言
机器学习系统在临床风险分层、刑事司法、信贷审批和社会福利分配等高风险决策领域的应用日益广泛，这引发了人们对算法责任和分配公平性的担忧[1] [2] [3]。因为在这些场景中，预测结果直接决定人们能否获得有利机会或面临惩罚性或其他不利干预，系统性的算法偏见可能会给历史上被边缘化的群体带来更大负担[4]。因此，公平性已从一种主要基于理论的概念，转变为明确的监管和治理要求，欧盟的《人工智能法案》和联合国教科文组织的《人工智能伦理建议书》等政策文件便是明证[5]。尽管如此，正式的公平性定义与其在操作系统中的实现之间仍存在巨大差距[6]。多数学术文献将公平性视为无约束的优化标准，而实际部署的决策支持系统则受到严格且有限的资源限制[7]。

在操作层面，风险评分模型产生的概率估计值需通过阈值选择转化为二元决策。传统的校准和阈值设定方法通常会优化某种统计性能指标，如整体预测准确率或基于平等性的群体公平性指标[8]。但这种方法隐含了一个假设，即所有超过决策阈值的案例都能接受干预。而现实中的部署环境往往无法满足这一假设：医院的重症监护床位有限，招聘流程只能安排固定数量的面试，社会项目也受到严格的预算限制。当预测出的高风险案例数量超过可用容量时，系统就无法正常运行，不得不采取临时配给机制，导致人工决策者疲劳，最终甚至放弃使用该算法系统。

在这种限制条件下，阈值选择不再仅仅是准确性与公平性之间的权衡，正如现有研究所示，这种权衡实际上是不可能同时实现的[9] [10]。相反，它变成了一个复杂的资源分配问题，需要兼顾三个相互竞争的操作目标：(i)安全性，即尽量减少误报，确保真正的高风险案例不被遗漏；(ii)效率，即尽量减少误报，避免浪费稀缺资源；(iii)公平性，即确保有限的干预资源不会在不同人口群体间的真阳性率上造成过大差异。

现有的公平机器学习方法难以在严格的容量限制下同时实现这些目标。一些在线处理方法将公平性直接嵌入学习目标中，并提供形式化保障[11] [12]，但这些方法将预测与部署策略紧密绑定。一旦资源或优先级发生变化，干预力度也必须相应调整。例如，医院床位突然减少可能需要新的干预阈值，而现有方法通常要求在这种情况下重新训练整个模型[13] [14]。此外，将公平性约束嵌入模型架构可能会降低决策规则的透明度，不利于负责操作监督的人员理解。而后处理方法则在训练后调整决策阈值，从而保持灵活性和模型独立性[15] [16]，但这些方法通常只优化特定的公平性指标，而不对干预规模设置上限。在基率不同的群体中，要实现统计公平性，往往需要设定的干预水平远远超出实际可承受的预算，因此在资源严格受限的分诊环境中，直接应用这类方法十分困难。

为弥补这一缺陷，我们提出了一种事后的受限部署规则，可在严格的容量限制下平衡安全性、效率与公平性。我们认为，在资源受限的环境中，可用容量是决定决策阈值的主要因素，因此伦理优先级只能在这些严格资源限制所设定的范围内影响结果。此外，我们认为公平性权重的作用方式因领域和参数设置的不同而存在两种明显差异：在始终受限模式下，容量限制始终决定部署阈值，伦理最优解永远不会超出资源限制，因此公平性调整实际上没有效果；在过渡模式下，提高公平性权重会将无约束最优解压低到容量限制以下，从而激活约束条件，释放全部干预资源，进而显著提升召回率。不过，这种提升实际上是由容量限制带来的，而非公平性调整本身。

为应对这些复杂情况，我们引入了一种带参数的伦理损失函数，并配合全球统一的阈值限制规则。该规则可确保干预规模永远不会超出可用资源。如果按伦理最优标准确定的阈值会超出资源限制，部署规则就会自动采用最严格的可行阈值。这样一来，预测建模与策略评估就被分开，从业者无需重新训练模型即可探索不同的操作方案。

在本研究中，我们专注于单一的群体公平性标准——机会平等，具体通过真阳性率均衡来实现。我们在严格的干预容量上限条件下分析了这一标准。虽然其他公平性概念，如群体平等性或校准性，也具有重要的规范价值，但在严格的操作限制下同时分析它们超出了本研究的范围。同样，我们的实证分析也仅在三个基准数据集上进行，其结果应被视为在这些特定环境下的证据，而非关于资源受限环境下公平性方法普遍行为的结论。

本研究的主要贡献如下：
• 受限部署规则与关键容量范围。我们提出了一种可调节的、与模型无关的受限部署规则，通过单一的、具有法律可行性的阈值来平衡多种相互竞争的操作目标。更重要的是，我们从数学上证明了存在一个关键容量水平，一旦达到该水平，系统就从受资源限制转变为受伦理优先级引导。据我们所知，之前的资源感知型公平性方法并未识别出这一明确的转变点，我们通过对比相关研究[15] [16] [17] [18]也得出了这一结论，这些研究均未描述出这一明确的边界形式。
• 限制规则的结构特性。我们推导出了由用于确定部署阈值的限制机制直接产生的六种可预测特性。其中最值得注意的是我们发现的伦理饱和点：超过这一点后，即使进一步强调安全性，也无法改变部署阈值，因为容量限制已经完全起作用。这一饱和现象为从业者提供了明确的参数调整停止点，同时也弥补了现有文献中关于伦理加权效应逐渐减弱的论述不足[15] [19]。
• 在严格限制条件下的三目标联合受限规则。现有的方法通常只优化单一的公平性指标，或者当优先级发生变化时需要重新训练整个模型[13] [14] [17]。而我们的受限规则则引入了一种带参数的损失函数，将安全性、效率与公平性作为可调节的加权目标。结合严格的干预规模限制规则，我们提供了一种新机制，无需重新训练模型即可同时平衡这三项目标。
• 约束条件主导作用的实证证据（在测试配置范围内）。通过在三个基准数据集和多种模型系列上的实验，我们发现，在我们的实验权重设置下，绝大多数测试配置的最终决策阈值都是由容量限制决定的。这一结果揭示了一个有条件的政策启示：当安全性权重来自与我们测试范围无关的先验分布时，增加资源预算比微调伦理权重更为有效。我们并不声称这一结论具有普遍适用性，但在所研究的三个基准场景中都得到了验证。
• 两种公平性作用机制的界定。我们发现，重视公平性会导致两种不同的操作行为：要么在严格的容量限制下公平性调整毫无效果，要么公平性调整通过激活容量限制带来安全性提升。通过识别这两种机制，我们为从业者提供了一种部署前的诊断工具，帮助他们判断在特定部署环境中公平性权重是否会产生实际影响。

通过将容量视为严格的界限，这一受限部署规则确保了模型在满足实际部署需求的同时，仍允许调整伦理优先级。具体而言，该规则通过使不同人口群体的真阳性率相等来实现机会平等，并将这一标准作为损失函数中的加权目标。最终，该方法在定义高风险部署环境的严格资源限制下，促进了公平的结果。

本文的其余部分结构如下：第二节回顾相关文献，并阐述现有公平性干预措施所涉及的法律问题；第三节详细阐述所提出的方法，并推导限制规则的结构特性；第四节介绍实验设计，对三个基准数据集进行全面的实证分析，并探讨这些发现的更广泛意义；最后，第五节指出所提方法的局限性，并提出未来研究的方向。萨帕姆·吉图·辛格：写作——审阅与编辑、验证、监督、正式分析。人工智能使用情况的披露在撰写本手稿时，作者使用了Paperpal来协助进行语法和语言编辑。作者已审阅并批准了所有修改内容，并对文章内容承担全部责任。利益冲突声明作者声明自己没有已知的可能影响本文所述工作的财务利益或个人关系。莫伊兰格姆·蒂肯·辛格是迪布古尔大学DUIET学院的计算机科学与工程副教授，他拥有博弈论和强化学习领域的博士学位。他已发表超过40篇论文，研究领域涵盖算法博弈论、网络科学以及语义通信。