在机器学习公平性中，平等的意义何在？不仅仅在于机会的平等

《ACM Journal on Responsible Computing》：What Is the Point of Equality in Machine Learning Fairness? Beyond Equality of Opportunity

公平性在机器学习研究中快速增长，但鲜有探讨为何不公的ML模型是错误的。现有研究基于分配平等，认为资源应均等分配。本文指出该视角不完整，尤其对文本和图像生成模型而言，应立足平等主义伦理，挑战结构性不平等。ML系统导致两种主要伤害：分配性（如经济损失）和代表性（如刻板印象）。分配平等虽能缓解前者，却无法解释为何强化社会等级（关系平等）是错误的。为此提出多元平等框架，整合分配与关系平等，并参考Anderson、Young、Fraser等理论，构建更全面的伦理基础，最后规划全流程实施路径。

　　

摘要

机器学习（ML）中的公平性问题已成为一个快速发展的研究领域。但首先，为什么ML中的不公平行为是错误的呢？我们又为什么要关注提高公平性呢？大多数关于公平性ML的研究都隐含地诉诸于分配平等的理念：即诸如机会之类的理想利益和资源应该在社会中得到“平等分配”（例如，Barocas等人，2023年）。因此，不公平的ML模型被视为错误的，因为它们没有实现这种平等的分配。本文认为，这种仅关注分配平等的视角提供了一个不完整且可能具有误导性的伦理基础，尤其是在文本和图像生成模型的背景下。将ML的公平性建立在平等主义的基础上——即认为平等是一种基本的道德和社会理想——需要挑战那些系统性、制度性和持久性的不平等现象，这些不平等现象会优先考虑某些群体而损害其他群体。ML系统中的结构性不平等主要表现为两种形式：分配性伤害（例如经济损失）和代表性伤害（例如刻板印象、信息抹除）。虽然分配平等有助于解决分配性伤害问题，但它无法解释为什么代表性伤害也是错误的——也就是说，为什么ML系统强化将人们划分为优越群体和劣势群体的社会等级制度是不对的——以及为什么ML系统应该致力于营造一个人们能够“平等相处”的社会（即关系平等）。为了解决这些局限性，本文提出了一个新颖的“多方面平等主义框架”，该框架整合了分配平等和关系平等的概念。借鉴了Anderson、Young和Fraser等人的批判性社会和政治哲学思想，这一框架为应对ML系统所造成的各种伤害提供了更全面的伦理基础。本文还概述了在整个ML流程中实施这一框架的实际途径。