合法权力与非法自动化：自动化决策系统中忽视合法性的问题

《ACM Journal on Responsible Computing》：Legitimate Power, Illegitimate Automation: The problem of ignoring legitimacy in automated decision systems

自动化决策系统（ADS）的合法性常被误认为等同于公众接受或公平性等价值。本文通过分析国家合法性的哲学理论（同意、公共理由、民主授权），指出传统理论在应用至ADS时存在局限。研究发现，民主授权虽面临挑战，但比同意和公共理由理论更具适用性和广泛性。

　　

摘要

机器学习和人工智能的进步推动了自动化决策系统（ADS）的广泛应用。大量文献探讨了这些系统的决策要公平必须满足的条件。然而，关于这些系统的决策者为何有权利做出这些决策的合法性问题却相对较少受到关注。本文指出，当提出这些问题时，理论家们常常错误地将合法性与公众接受度或其他实质性价值（如公平性、准确性、专业性或效率）混为一谈。为了寻找更好的理论基础，我们对关于国家合法性的哲学文献进行了批判性分析，重点关注同意原则、公共理性以及民主授权机制。分析表明，在将这些理论应用于合法的自动化决策系统之前，需要对其进行仔细考量。具体而言，我们发现同意原则和公共理性理论可以在一定程度上为某些自动化决策系统提供合法性依据，但它们存在严重的局限性，从而限制了其适用范围。尽管民主授权机制本身也存在一些挑战，但它作为一种更具前景且适用范围更广的合法性来源，显得更为可行。