“通过构建保证正确性：通过神经网络训练实现认证个体公平性”

《Proceedings of the ACM on Programming Languages》：Correct-by-Construction: Certified Individual Fairness through Neural Network Training

公平性在机器学习中至关重要，现有方法多依赖验证技术但缺乏形式保证。本文提出新型框架，通过随机响应机制保护敏感属性，在训练过程中形式化保证个体公平性。实验表明该方法在公平性和准确性间取得平衡，且效率显著优于基于认证训练的方法。

　　

摘要

随着伦理问题的日益突出，机器学习中的公平性比以往任何时候都更加重要。个体公平性要求仅在敏感属性上存在差异的个体能够获得相同的结果。然而，常用的机器学习算法往往无法实现这种公平性。为了提高个体公平性，人们开发了各种训练方法，例如将公平性约束作为优化目标。尽管这些方法在实证上显示出有效性，但它们缺乏对公平性的正式保证。现有的旨在提供公平性保证的方法主要依赖于验证技术，而这些技术有时无法得出明确的结果。此外，仅靠验证并不能在训练过程中主动提升个体公平性。为了解决这一限制，我们提出了一个能够在整个训练过程中正式保证个体公平性的新框架。我们的方法包括两部分：（1）可证明公平的初始化过程，确保模型从公平的状态开始；（2）一种保持公平性的训练算法，使模型在学习过程中仍能维持公平性。我们方法的一个关键要素是使用了随机响应机制，该机制在保护敏感属性的同时维持公平性保证。我们正式证明了这种机制在整个训练过程中能够持续保障个体公平性。实验评估证实，我们的方法是有效的，即生成的模型在实证上既公平又准确。此外，与基于认证训练的替代方法（需要在训练过程中对神经网络进行验证）相比，我们的方法效率更高。