公平性API在机器学习软件中的应用与挑战

《ACM Transactions on Software Engineering and Methodology》：Applications and Challenges of Fairness APIs in Machine Learning Software

机器学习偏见检测与开源API库应用研究分析GitHub 204个仓库，发现13个偏见缓解API被用于学习与实际问题解决两大场景，涵盖17种具体用例，揭示开发者知识不足、技术障碍频发及资源需求迫切等挑战。

　　

摘要

机器学习软件系统在我们的日常生活中被广泛使用。其中一些系统被应用于各种敏感环境中，用于做出可能改变人们生活的决策。因此，确保这些人工智能/机器学习系统不会对任何特定群体或人群产生歧视性决策至关重要。为此，人们正在开发并使用各种开源的偏见检测和缓解软件库（也称为API库）。在本文中，我们进行了一项定性研究，以了解这些开源公平性API在实际应用中的使用场景、使用方式，以及开发者在开发和采用这些库时所面临的各种挑战。我们分析了204个GitHub仓库（来自总共1885个候选仓库），这些仓库使用了13个旨在解决机器学习软件中偏见问题的API。研究发现，这些API主要用于两个目的：学习和解决实际问题，并针对17种不同的用例。研究结果表明，开发者对偏见检测和缓解方面的知识掌握不够充分；他们在使用过程中经常遇到各种问题，并需要寻求他人的意见和建议及资源支持。我们的发现对于未来的偏见相关软件工程研究具有重要意义，同时也有助于指导教育工作者制定更先进的教学大纲。