《Machine Learning and Knowledge Extraction》：ML-Driven Decision Support for Dynamic Modeling of Calcareous Sands
Abdalla Y. Almarzooqi,
Mohamed G. Arab,
Maher Omar and
Emran Alotaibi
编辑推荐：
人机协作（HAIC）日益成为公共与私营部门高风险决策的中介，然而许多有案可查的人工智能伤害并非仅源于模型错误，而是源于人—AI联合工作中的断裂：误校准的依赖、受损的可质疑性、代理权的误分配以及治理的不透明性。传统可解释人工智能（XAI）方法常以静态一次性制品的
人机协作（HAIC）日益成为公共与私营部门高风险决策的中介，然而许多有案可查的人工智能伤害并非仅源于模型错误，而是源于人—AI联合工作中的断裂：误校准的依赖、受损的可质疑性、代理权的误分配以及治理的不透明性。传统可解释人工智能（XAI）方法常以静态一次性制品的形式交付，难以匹配这些社会技术动态。本文是一篇立场论文，论证可解释性应被重新框定为HAIC的伤害缓解基础设施：一种交互式、迭代的能力，支持持续的意义建构、控制的安全移交、治理利益相关者角色以及制度问责。研究人员引入协同解释器（co-explainers）作为交互式XAI的概念框架，其中解释通过结构化对话、反馈和治理感知升级（解释→反馈→更新→治理）共同产生。为奠定这一立场，研究人员将既往伤害分类学综合为六个面向HAIC的伤害簇，并以此作为启发式设计透镜，推导出簇特定的可解释性需求，包括不确定性沟通、溯源与日志记录、对比性"为何/为何不"与反事实查询、角色敏感性论证以及救济导向的交互协议。研究人员强调，协同解释器并非孤立地"缓解"社会技术伤害；相反，它们提供一个接口层，使伤害更易于检测、决策更可质疑、问责移交在密封模型、动态更新和价值多元等现实约束下更具操作性。最后提出评估协同解释器并将交互式XAI与真实HAIC部署中的治理框架对齐的研究议程。
研究背景与问题动机
人工智能系统已从孤立的计算工具演变为医疗健康、教育、金融和治理等敏感领域的嵌入式决策主体。尽管这些系统提升了效率与优化水平，但也产生了从错误信息、偏见到公民侵蚀和治理崩溃等多重伤害。这些伤害往往具有系统性、累积性，且难以仅凭公平性、偏差或准确率等传统指标检测。正如近期研究（Shelby et al., 2023; Thomas et al., 2025）所指出的，最关键的风险不仅是技术正确性的缺失，更在于信任、自主性和制度合法性的侵蚀。可解释人工智能（XAI）旨在使人工智能输出与决策过程对人类可理解，其目标不仅是技术准确性，更追求现实意义。然而，传统XAI方法常以静态、事后（post hoc）的一次性制品形式交付，难以应对关系性、系统性和制度性嵌入的伤害。在此背景下，研究人员提出将可解释性重新框架化为HAIC的伤害缓解基础设施，而非单纯的透明度工具。
研究人员开展的研究与核心概念
本研究作为一篇立场论文，提出了"协同解释器"（co-explainers）的概念框架。该框架将XAI从静态透明度工具转向动态的伤害缓解机制，其核心在于交互式解释循环（explain → feedback → update → govern），通过结构化对话、反馈和治理感知升级共同产生解释。为建立这一框架，研究人员从已有文献中综合筛选出50个与交互相关的AI伤害，通过迭代质性整合方法将其聚类为六个面向HAIC的伤害簇：认识论完整性（Epistemic Integrity）、公平与表征（Fairness and Representation）、代理与自主性（Agency and Autonomy）、结构性影响（Structural Impacts）、安全与安保（Security and Safety）、以及制度信任（Institutional Trust）。这些簇作为启发式设计透镜，连接伤害逻辑与交互式可解释性需求及治理移交。研究人员进一步从交互式机器学习（IML）、互惠人机学习（RHML）、认识论反馈理论、参与式治理、作为治理的不透明性（opacity-as-governance）等理论基础出发，构建了协同解释器的操作化机制。
主要技术方法
本研究采用概念性、定性方法学，适用于HAIC研究早期框架构建。关键方法包括：（1）基于50个交互相关伤害的迭代质性编码与聚类，形成六簇伤害分类；（2）以协作失败模式为导向的设计驱动聚类方法；（3）构建"解释→反馈→更新→治理"的交互式XAI循环架构，涵盖解释生成、人类反馈、信念调整与解释更新、不透明性治理四个操作机制；（4）角色敏感的分层可解释性设计，区分受影响者、操作决策者、监督者（审计员/监管者）及开发者/研究者四类治理利益相关者的差异化需求；（5）跨案例的参与式原型设计思路。
研究结果介绍
认识论完整性伤害簇：涵盖习惯化伤害、生成式算法认识论不公正、认知卸载与人类能力削弱、AI信念伦理、研究诚信侵蚀、合成数据反馈循环与模型崩溃、不可理解的发现、信息危害与错误信息伤害、抱负伤害、情感或心理伤害。此类伤害源于共享意义建构失败。协同解释器通过对比性"为何/为何不"查询、不确定性估计、溯源与引证追踪、交互式受众敏感解释界面，使用户通过对话交互恢复解释能动性。
公平与表征伤害簇：包括表征伤害、分配伤害、可及性伤害、儿童特定伤害、交互性与关系性伤害、肖像生成伤害。交互式XAI部署转向型解释界面，允许用户查询公平逻辑、质疑输出并提交反事实调整。通过特征归因（如SHAP、LIME）、反事实救济解释、内容与肖像生成的溯源追踪，赋能受影响用户和审计员审查偏见或排斥性结果。
代理与自主性伤害簇：涵盖代理性欺骗、欺骗行为涌现、代理系统交互性伤害、目标误设与古德哈特伤害、人机回路技能退化、本体论与人格关切、对齐与机器伦理失败。协同解释器允许审计员监控行为痕迹、标记欺骗行为或漂移，并动态审查目标对齐情况。运用机械可解释性揭示内部模型目标或欺骗梯度、规划可追溯性、行为轨迹日志等工具，支持对涌现代理的持续监督。
结构性与社会技术伤害簇：包括全球与结构性公平公会伤害、环境与行星伤害、计算/基础设施鸿沟、数据提取与社区同意侵害、供应商锁定与互操作性伤害、感知不确定性伤害、去殖民伦理批判、自动化引发失业、政治操纵与公民伤害现在还差讨论和结论部分。> 、公民与文化伤害。交互式XAI支持利益相关者集体参与生命周期仪表板、环境影响监测和社会足迹审计，通过参与式共同评估使结构性伤害得以显现和情境化。
安全与安保伤害簇：涵盖恶意使用与双重伤害、模型脆弱性/安全失败、语音生成器伤害、对抗性攻击危险、数据供应链攻击、人机接口失败、升级风险与误判、武器化扩散风险、存在性风险与系统性灾难性伤害。协同解释器允许人类操作员实时检测异常或对抗性触发，通过对抗显著性图、鲁棒性诊断工具、异常—解释系统闭环人类反馈，提升高风险情境中的态势感知与决策支持。
制度与治理信任伤害簇：包括责任归属模糊、治理与修复不足、基于不透明性的问责失败、制度不信任、正当程序违反、救济拒绝与不足、治理政策错位、审计规避与影响清洗。协同解释器提供分层的角色敏感解释访问（用户/审计员/监管者），通过审计追踪与解释日志、与法律或政策框架绑定的论证模板、分层角色基础可解释性，实现程序合法性。
讨论与研究结论部分翻译
研究人员强调，协同解释器不应被理解为仅从技术层面缓解伤害；相反，它们提供一个接口层，使伤害更易于检测、决策更可质疑、问责移交在现实约束下更具操作性。这一框架将解释性从被动输出转变为动态的认识论协作过程，扎根于透明度、可质疑性和跨利益相关者的参与式互动。协同解释器的有效性取决于其在真实世界系统和法律框架中的嵌入程度，需要以参与式方法和持续经验评估为指导。
本研究作为概念性贡献，桥接了描述性伤害分类学与规定性治理需求。其核心承诺在于将解释与程序正义、可质疑性和社会监督对齐。然而，该模型仍属概念性质：经验测试、参与式原型设计和纵向评估对于在实践中评估协同解释器至关重要。未来研究须在医疗健康、教育、金融和公共服务等高风险领域验证协同解释器，包括通过关系和程序指标（如信任校准、救济成功、解释满意度）测量解释质量，跨文化和监管情境测试用户交互，并纳入参与式设计方法。纵向部署研究对于理解协同解释器如何随时间演化、适应和制度化治理至关重要。
研究结论指出，协同解释器代表了设计、治理和与AI系统关系方式的转变——不仅使AI从静态角度可解释，而且将其嵌入问责、正义和认识论多元主义的社会动态结构中。关键下一步是通过经验研究和实地部署，在真实制度约束下针对簇特定伤害代理（如可质疑性成功、信任校准、救济延迟）评估协同解释器。该框架还可与新兴法律要求对齐，如欧盟AI法案第四章、NIST AI风险管理框架以及OECD/UNESCO AI原则，超越表面可解释性工具，提供适应性多行动者问责机制。
最后，研究人员回应了将可解释性视为伦理万能药的批评，强调解释并无固有价值，其价值取决于所服务的目的和部署的制度情境。协同解释器不应仅凭解释的存在或质量评估，而应通过交互式、角色敏感的解释实践是否实际支持有意义的可质疑性、校准的依赖和问责式决策来评判。这一约束性认识有助于避免用户责任化或掩盖结构性问题，并凸显协同解释器必须嵌入更广泛的治理和监督安排之中的必要性。
