基于人工智能的检测系统的操作公平性诊断:指标与方法论

《Knowledge-Based Systems》:Operational fairness diagnostics for AI-based detection systems: Merics and methodology

【字体: 大 中 小 】 时间:2026年06月06日 来源:Knowledge-Based Systems 8.0

编辑推荐:

  卡洛斯·马里奥·布拉加|曼努埃尔·A·塞拉诺|爱德华多·费尔南德斯-梅迪纳•提出了一种结构化的六阶段框架,用于在部分监督和不断变化的环境下,将公平性指标应用到运行中的人工智能系统中。•将三种经典的公平性指标——独立性、分离性和充分性——重新解读为可用于操作的诊断工具,并对其进行了

  
卡洛斯·马里奥·布拉加|曼努埃尔·A·塞拉诺|爱德华多·费尔南德斯-梅迪纳
  • •
    提出了一种结构化的六阶段框架,用于在部分监督和不断变化的环境下,将公平性指标应用到运行中的人工智能系统中。
  • •
    将三种经典的公平性指标——独立性、分离性和充分性——重新解读为可用于操作的诊断工具,并对其进行了改进,以提高可审计性、可解释性以及与替代真实值的兼容性。
  • •
    在四种合成场景(中性、仅警报偏差、仅校准偏差和完全偏差)下分析了这些指标的表现,证实每种指标都会针对其对应的操作公平性维度产生相应反应。
  • •
    将该框架应用于一个真实的入侵检测数据集(UNSW-NB15),通过5折分层交叉验证并利用经过训练的随机森林分类器进行分析,发现了经典公平性指标(SPD、EOD)未能完全捕捉到的结构性差异。
  • •
    确认了所检测到的差异具有统计显著性(p<10?300),同时通过效应大小分析(等级双变量|r|=1.0),表明其实际影响程度超出了仅由样本大小决定的显著性水平。
  • •
    探讨了这些指标如何补充人工智能治理框架(欧盟人工智能法案、NIST人工智能风险管理框架、ISO/IEC 42001)中的诊断目标,将操作公平性诊断视为用于系统级行为分析的结构化工具。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号