《Applied Sciences》：Explainable Artificial Intelligence Technology and Its Applications: Toward Transparent, Human-Centered, and Trustworthy AI
编辑推荐：
可解释人工智能（XAI）已成为开发透明、可问责且以人为本AI系统的核心方法论。随着数据驱动模型日益部署于高风险与社会影响重大的场景，解释不仅被期望揭示模型行为，还需支撑验证、错误分析、公平性审计、监管合规及高效的人机协作。本社论引介“可解释人工智能技术及其应用
可解释人工智能（XAI）已成为开发透明、可问责且以人为本AI系统的核心方法论。随着数据驱动模型日益部署于高风险与社会影响重大的场景，解释不仅被期望揭示模型行为，还需支撑验证、错误分析、公平性审计、监管合规及高效的人机协作。本社论引介“可解释人工智能技术及其应用”特刊，并将其贡献置于XAI研究更宽泛的演进轨迹中。研究人员简要回顾主要方法族：内在可解释性、局部代理与Shapley值解释、基于梯度与扰动的视觉归因、反事实与因果解释，以及以人为本的评估。随后凸显本特刊代表性贡献，展示XAI如何从通用解释可视化走向对网络安全、计算机视觉、知识图谱与金融决策支持中具有领域敏感性、数据感知性与运行可靠性的方法。最后讨论未来方向，强调忠实且合理的解释、因果与多模态推理、实时与硬件高效部署、可信治理，以及XAI在教育中浮现的角色。
研究背景方面，人工智能因深度学习可从大规模数据学习具表达力的表示，已成为感知、预测、优化与决策支持的通用技术。但同样的表示复杂性令模型行为难以审查、质疑与改进，尤其在安全关键、科学、临床、金融与公共部门场景中。可解释人工智能（XAI）由此兴起，致力于使AI对开发者、领域专家、监管者与终端用户透明、可解释且可信。现代XAI议程由构建决策可被人类理解且不牺牲过多任务性能的系统努力所凝练；近期可信AI框架与法规进一步强化了解释、文档、风险管理、透明性与人工监督的实际重要性。当前存在的主要问题在于：无单一解释方法可普适最优；许多事后解释方法可能视觉上可信却不反映真实计算；解释质量不能仅凭视觉吸引力推断；基准狭窄、领域证据标准不一、解释常未嵌入领域流程与治理实践。
研究人员通过开展特刊综述与贡献整合，系统梳理XAI方法族并展示其在多领域的过渡。结论指出XAI正从可视化与归因技术集合成熟为可信、以人为本AI工程的更宽学科；核心挑战非使黑箱显透明，而是提供忠实于模型行为、对用户有意义、敏感于领域语境且助益负责任行动的证据。该特刊论文发表于《Applied Sciences》，意义在于将XAI方法与应用特定约束连接，把讨论从“模型能否被解释”推进至“解释在真实场景中是否可靠、有用且可行动”。
关键技术方法上，研究人员综合运用了内在可解释模型（稀疏线性模型、规则列表、决策树、广义加性模型GAMs与GA2Ms、原型与概念基设计）、局部代理（LIME）、Shapley值（SHAP）、梯度与扰动归因（积分梯度、逐层相关性传播LRP、类激活映射CAM、Grad-CAM、Grad-CAM++）、反事实解释（DiCE）、注意力机制诊断、因果推理、人注引导XAI（HAG-XAI）、二维Copula（CoLIME）、特征分解本征CAM（Seg-Eigen-CAM）、轻量注意力与特征融合（LCW-YOLO）、符号与语义知识融合（OBOE框架、查询引导双注意力）等，覆盖算法基准、医学多学科验证与教育信任实验，无特定生物样本队列。
研究结果按原文小标题浓缩如下。摘要与引言确立XAI需区分解释对象、受众与目的，连接技术目标与人类任务。内在可解释性部分指出GAMs/GA2Ms在医疗可达近黑箱精度且全局效应可检；深度学习中原型与概念基设计借学习部件或语义单元证成决策。事后解释部分表明LIME局部近似、SHAP按合作博弈分配贡献、归因法将敏感度从输出传回输入、CAM系视觉定位基线、反事实问最小干预变更、DiCE加多样性与可行性。解释质量部分强调忠实性度量（删除、插入、扰动、鲁棒性）不可省，且解释属社会认知行为，需以人为本评估。注意力与因果部分警示注意力权非自动忠实，HAG-XAI联合人类注意与忠实性评测。局限部分列分布偏移、领域证据异质、治理嵌入不足。特刊三主题：其一CoLIME用二维copula保特征依赖，提升不平衡网络入侵数据解释可靠性；其二Seg-Eigen-CAM降背景噪、升密集预测定位，LCW-YOLO平衡无人机小目标检测精度与计算成本；其三OBOE将XAI扩至知识图语义域发现，查询引导双注意力融金融概念于情感分类，另含贝叶斯网络供应链风险、多模态假新闻检测、OCT去噪、云分割、故障诊断等，共训模型-扰动-表示-指标-界面。未来方向涵盖联合评估标准、因果/反事实工具化、多模态与LLM溯源与幻觉应对、边缘/FPGA/神经形态实时高效解释、教育侧可解释学习者模型与仪表盘。
讨论与结论翻译总结：XAI成熟为可信以人为本AI工程学科，挑战在提供忠实、有意义、语境敏感、助益行动的证据而非显透明。特刊贡献通过可靠性、语义结构、领域知识、视觉可解释性、操作风险与面向人解释反映此成熟。未来进展依赖机器学习研究者、认知科学家、领域专家、教育者、伦理学者、硬件设计者与政策方协作，使解释超越形式合规，增进理解、揭限、支问责、促人机安全高效协作。
