FAIR-SHEPHERD：超越统计平等的公平性，以实现结构对齐

《ACM Journal on Responsible Computing》：FAIR-SHEPHERD: Fairness beyond Statistical Parity toward Structural Alignment

　　

摘要AI摘要

要查看此由AI生成的摘要，您必须具有高级访问权限。

了解更多登录

摘要

摘要

所有公平性算法都不可避免地依赖于关于公平处理的规范性假设，但这些假设往往仍然是隐含的。我们认为，这些假设应该被正式化为明确的、可审核的政策，并引入了FAIR-SHEPHERD，这是一个基于结构的框架，用于在具有噪声标签和变化分布的现实世界环境中实现透明公平性。FAIR-SHEPHERD使用梯度作为归属信号，这些信号被编码在结构公平性规范（SFS）中，该规范定义了与脆弱代理的垂直一致性和正交性。我们引入了SFS指标：垂直一致性得分（VCS）来衡量相邻规范性切片之间的方向一致性，以及水平泄漏得分（HLS），并增加了一个带符号的方向变体，以检测梯度与政策声明的脆弱性或代理方向的对齐情况。为了执行这些政策，我们开发了S-agnostic工具，使用格子定义的代理来优化与政策对齐的梯度目标。我们证明，基于结果的审核对测量误差很敏感：在成人数据集上，当标签噪声小于10%时，ERM的Worst-Group AUC下降了0.159。相比之下，我们基于梯度的结构指标提供了对决策逻辑的标记无关的审核，即使评估标签被破坏也能保持稳定。一些专门的公平性基线，包括ARL、JTT和GoG，在COMPAS上仍存在显著的结构泄漏，HLS值在0.47到0.71之间。有些基线甚至降低了相对于ERM的EOD，这表明结果标准和结构标准可能会产生分歧。使用我们的S-agnostic梯度惩罚工具，我们在COMPAS上将政策指定的结构泄漏减少了大约85%（从0.478降至0.073），在成人数据集上减少了超过94%（从0.138降至0.008），同时保持了具有竞争力的AUC和Worst-Group AUC。我们已将源代码发布在这里，以促进进一步的研究。

AI摘要

AI生成的摘要（实验性）

此摘要是使用自动化工具生成的，不是由文章作者撰写或审核的。它旨在帮助发现、帮助读者评估相关性，并帮助来自相关研究领域的读者理解这项工作。它旨在补充作者提供的摘要，后者仍然是论文的主要摘要。完整文章是记录的权威版本。点击这里了解更多。

点击这里对摘要的准确性、清晰度和有用性进行评论。这样做将有助于改进未来的版本。

要查看此由AI生成的通俗语言摘要，您必须具有高级访问权限。