综述:作为人机交互问题的算法公平性

《Current Opinion in Psychology》:Algorithmic fairness as a human–technology interaction problem

【字体: 大 中 小 】 时间:2026年09月07日 来源:Current Opinion in Psychology 7.4

编辑推荐:

  算法塑造着社会中的高风险决策。算法在带来效率的同时,也引发了公平担忧。本文提出,算法公平性最好被理解为一个“人–技术”交互问题,而非纯粹的技术挑战。算法可以复制人类偏见,通过反馈循环放大这些偏见,或者通过目标设定、代理变量(proxies)及看似中立的变量产生

  
算法塑造着社会中的高风险决策。算法在带来效率的同时,也引发了公平担忧。本文提出,算法公平性最好被理解为一个“人–技术”交互问题,而非纯粹的技术挑战。算法可以复制人类偏见,通过反馈循环放大这些偏见,或者通过目标设定、代理变量(proxies)及看似中立的变量产生新形式的不公平。然而,它们也可以使决策过程更加明确,使差异性更加可见,并积极减轻歧视。公平不仅取决于统计特性,还取决于算法如何被设计、使用以及受其决策影响的人们如何体验。因此,本文提供了一个跨学科视角,整合了社会正义、心理学、计算机科学、判断与决策研究以及管理学等领域的见解。
Introduction(引言)
算法日益支持或替代人类判断,出现在教育、金融、医疗、人力资源和营销等领域。例如招聘筛选算法承诺高效、可扩展、一致和准确,但若基于历史数据训练,可能学习到先前人类偏见,进而使已边缘化群体处于不利地位。围绕算法的公共争论常摇摆于“客观工具”与“歧视技术”两种片面观点之间。本文指出,算法并非在真空中部署,而是嵌入制度、历史不平等、组织激励与社会价值之中。因此,算法公平最好被理解为人–技术交互问题,而非纯技术属性。人类通过数据、目标和治理选择塑造技术;同时,算法通过偏差缓解和差异可视化促进公平。

What makes an algorithm fair?(什么使算法公平?)
公平是多维的,常按受保护属性(如性别、种族、民族、年龄、残疾状态或宗教)划分群体进行比较。社会心理学和组织公平研究区分了分配公平(结果与投入成比例)、程序公平(程序一致、无偏、准确、可纠正、代表性和道德)以及互动公平(人际尊重与信息充分性)。计算机科学中主要统计公平概念包括独立性(有利结果在群体间相似)、分离性(
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号