LayerToFair：一种面向深度神经网络分层感知公平性修复的高效后处理框架

《ACM Transactions on Software Engineering and Methodology》：LayerToFair: An Efficient Post-processing Framework for Layer-aware Fairness Repair of Deep Neural Networks

　　

摘要AI 摘要

查看此 AI 生成的摘要需要高级访问权限。

了解更多登录

摘要

摘要

深度神经网络（DNN）越来越多地被部署在高风险信息系统中，在这些系统中，公平性是一项关键要求。现有的后处理方法能够在不重新训练或访问原始数据的情况下修复不公平性，但它们通常对所有层不加区分地处理，导致计算成本高且效果欠佳。我们借助信息瓶颈（Information Bottleneck, IB）理论的视角，研究了敏感信息在各层之间的传播，并提供了实证证据表明：敏感信息随着深度增加而逐步衰减，揭示了一个敏感信息瓶颈层——在该层中敏感信息被显著削弱，并在其下游保持被抑制状态。基于这些洞察，我们提出了 LayerToFair，一个用于 DNN 层次感知公平性修复的高效后处理框架。LayerToFair 包含三个步骤：基于探针的瓶颈层定位、关键神经元识别以及基于 GRPO 的神经元输出缩放。我们在多个基准数据集和不同深度与宽度的全连接前馈网络上评估了 LayerToFair，并将其与三个代表性基线方法进行比较。实验结果表明，LayerToFair 在保持至少 98% 的原始模型性能的同时，可实现高达 71% 的公平性提升，并且在相同的修复时间预算和可比模型性能保证下，分别比三个基线方法高出多达 29%、63% 和 62%。我们已发布了该实现代码以促进复现和未来的研究。

AI 摘要

AI 生成摘要（实验性功能）

此摘要由自动化工具生成，未经文章作者撰写或审阅。我们提供此摘要以支持文献发现，帮助读者评估相关性，并协助来自相邻研究领域的读者理解该工作。它旨在作为作者提供的摘要的补充，而作者提供的摘要仍然是论文的主要概述。完整文章仍然是有权可查的正式版本。点击此处了解更多。

点击此处对此摘要的准确性、清晰度和实用性提出评论。您的反馈将有助于改进和未来版本的重新生成。

查看此 AI 生成的通俗摘要需要高级访问权限。