《International Journal of Financial Studies》：Explainable Artificial Intelligence in Credit Risk: A Systematic Evidence Map for Regulated Credit Decisions
编辑推荐：
机器学习（ML）日益参与高风险信用决策，但模型不透明性使透明度和模型治理复杂化。本综述将信用风险中可解释人工智能（XAI）的系统证据地图与任务导向的叙述性综合相结合。一项覆盖2017—2026年的Scopus检索产生958条唯一记录；冻结的标题—摘要编码手册将
机器学习（ML）日益参与高风险信用决策，但模型不透明性使透明度和模型治理复杂化。本综述将信用风险中可解释人工智能（XAI）的系统证据地图与任务导向的叙述性综合相结合。一项覆盖2017—2026年的Scopus检索产生958条唯一记录；冻结的标题—摘要编码手册将550条归入核心地图。39.1%的核心标题或摘要提及SHAP，而包含严格或宽泛解释质量评估信号的仅占1.3—1.5%。定向全文核查识别出被元数据编码遗漏的无支持信号和评估实践。因此，这些百分比描述的是报告可见性而非全文实践。任务—人工物—方法—验证（TAMV）框架将解释输出与不利行动理由、申请人救济、模型审查和文档记录相连接，并规定每种用途所需的证据。提出的金融专用基准将该综合转化为可检验的优先事项。本综述未进行前瞻性注册。其贡献是可供复现的报告地图和任务特异性验证议程，而非解释方法的比较排名。
1 引言：论文以信用决策的高风险性为背景，指出机器学习（ML）预测力与不透明性的张力，提出监管感知综合与TAMV框架。1.1 高风险信用决策中的机器学习：树集成和神经网络提升违约风险估计，但评价需超越区分度并检验校准与稳健性；不透明性会影响按揭等重大决策。1.2 准确性与可解释性的权衡：内在可解释模型与事后解释两条路径并存，争议在于高风险决策是否必须采用构造上可解释的模型。1.3 监管与监督约束：ECOA/Regulation B、CFPB、SR 26-2、Basel、GDPR和EU AI Act等形成差异化解释需求。1.4 动机与空白：通用XAI综述和信用评分综述未充分连接解释人工物与监管任务，缺少任务导向综合。1.5 研究问题与贡献：提出四个研究问题，构建Scopus证据地图、核心与边界集、TAMV及金融专用基准，强调可复现计数而非方法排名。
2 背景与监管语境：监管并非真空，比较美国、欧盟、中国、英国和新加坡，聚焦直接影响解释设计的条款。2.1 美国信用法下的不利行动：ECOA/Regulation B要求具体主要理由，CFPB明确复杂算法不能以不透明抗辩；反事实可补充但不能替代主要理由，并需记录参考人群。2.2 当前美国模型风险指引与巴塞尔框架：SR 26-2取代SR 11-7但非约束、范围有限并排除生成式与代理AI；Basel/IRB要求验证与文档，EBA和ECB期望可解释可追溯。2.3 欧盟GDPR与EU AI Act：GDPR第22条限制纯自动决策，SCHUFA和Dun & Bradstreet案明确评分与可理解信息；AI Act将信用评分列为高风险，要求风险管理、日志、透明和人类监督，2026/1744推迟部分义务并简化文档但不改分类。2.4 美国与欧盟之外的选定框架：中国PIPL第24条要求透明公平、解释和拒绝纯自动决策；PBOC征信措施、英国DP5/22与FS2/23及Consumer Duty、新加坡FEAT与Veritas体现不同组合。2.5 监管为何创造持久XAI研究需求：需求分化，解释方法须按任务与辖区验证，不能作为可移植合规证书。
3 方法：采用系统证据地图与定向叙述综合，未前瞻注册。3.1 方案与研究问题：PRISMA 2020和PRISMA-S报告实际阶段，冻结编码支持复现但不证明构念效度。3.2 数据来源与检索：Scopus 2017—2026英文文献，以解释与信用两组概念检索，获得959条记录；未设学科过滤，检索词汇存在限制。3.3 去重与筛选：958条唯一记录中550条核心、315条边界、93条排除；核心需标题信用信号与XAI信号，仅属标题摘要信号且无正式偏倚评估。3.4 定向全文核查：核查17篇核心全文，A组8篇宽泛阳性、B组9篇可获全文；全部符合范围，6/8宽泛阳性符合评估，B组2/9符合；样本小、非盲且非概率。3.5 补充检索与探索性编码：IEEE检索539条，285条DOI匹配，254条未匹配，210条原始日期记录按冻结规则处理；22条核心候选，10条含两组概念；探索性编码提升树与数据集名仅表示提及而非验证配对。3.6 PRISMA流程：958条形成550条核心、315条边界和93条排除；全文核查不改变地图成员。3.7 文献计量程序：958条用于趋势，550条用于地理，545条用于关键词网络；82个词、四社区，结果仅作描述性语境。
4 信用风险XAI方法分类：从内在与事后、全局与局部及监管任务组织，TAMV逆向从任务到所需证据。4.1 内在可解释模型：记分卡、稀疏风险评分、浅树与规则表、GAM/EBM/NAM/GAMI-Net及单调约束可缩小模型与解释距离，但采用可见性偏低。4.2 事后解释方法：LIME、SHAP/TreeSHAP、排列重要性、PDP/ICE/ALE、全局代理、Anchors、Integrated Gradients及原型与概念方法须说明参考分布，不能默认有效。4.3 反事实解释与可行动救济：反事实说明需改变什么，救济要求可行动、稀疏、多样、因果一致和时间稳健；Regulation B主要理由不同于前瞻路径。4.4 跨切面维度与监管映射：区分全局诊断、局部理由和可行反事实，并映射到不利行动、模型审查、IRB和AI Act文档；验证是使用前提。4.5 TAMV框架：属作者概念综合而非新算法，从任务到人工物、候选方法和验证证据；四案例展示不同关系，仍需外部评估。
5 金融应用：将应用类别与模型和数据报告相连，提升树术语在SHAP记录中占56.3%属共现。5.1 消费者信用评分与PD建模：从特征重要性发展到组合效应、局部理由和可审计报告；文本或多频输入需单独验证表示。5.2 P2P借贷与金融科技平台：22条核心标题涉及P2P借贷，Lending Club公开数据突出，SHAP式解释用于监督与决策；平台监管适用须视银行语境。5.3 SME与公司信用：17条核心标题涉及中小企业或公司信用，样本小、报表异质，网络或供应链特征需XAI使其可读。5.4 不利信用决策后的救济：反事实与救济研究较少，关注最小改变、可行性和多路径；选择性标签与拒绝推断需显式处理。5.5 LGD与IRB下的模型验证：仅1条核心标题明确LGD或IRB，XAI用于解释Basel参数和验证报告，范围敏感。5.6 欺诈与信用的边界：4条核心标题连接信用与欺诈；AI Act将信用评估列为高风险而豁免欺诈检测，同一模型族可能承担不同义务。
6 可解释性与公平性：信用法将理由说明与反歧视相连，XAI可审计公平但受解释层脆弱性限制。6.1 算法歧视与差别影响：区别差别对待与差别影响，代理歧视是核心，公平指标不可同时普遍满足，模型设计体现误差分配选择。6.2 透明且非歧视的联合监管需求：真实理由可能泄露代理歧视，公平审计需受保护属性但采集受限，BISG等代理推断有误差；LDA要求模型搜索，Rashomon集可操作化。6.3 XAI作为公平审计工具及其局限：归因可分解组间差距，反事实公平与救济差异补充审计；fairwashing、scaffolding攻击和组间解释稳定性差异限制其效力，公平信号多于评估信号但证据类型不同。
7 解释评估：监管任务预设解释反映模型行为，证据地图测报告可见性而非全文实践。7.1 什么使解释可信：区分忠实性、稳定性和合理性；忠实但不可信揭示模型缺陷，可信但不忠实掩盖缺陷，以合理性作事实标准会选错属性。7.2 特征相关下的SHAP失效模式：Shapley值需参考分布，干预式与观察式各有问题，TreeSHAP路径依赖有偏，加性摘要损失交互，SHAP默认未验证。7.3 对抗脆弱性与可操纵性：LIME/KernelSHAP可受scaffolding攻击，fairwashing利用代理，解释定向扰动和模型更新可破坏反事实；解释不能自我证明合规，需可复现审计。7.4 缺失的基准：忠实性操作化多样，方法排名对指标敏感且方法间不一致，基准偏图像文本而表格金融不足；仅7条严格、8条宽泛信号，人工核查显示信号非全文率，需任务特异评估。
8 文献计量结果：作为描述性三角验证而非因果分析。8.1 发表趋势：958条记录中550条核心有414条即75.3%发表于2024年后，2026年截至9月2日，增长不识别监管原因。8.2 关键词共现与主题结构：545条核心有关键词，保留82个词，四社区模块度0.2772，其他解接近；网络连接建模、解释与治理词汇但不证明学派或因果。8.3 地理分布：548条核心有隶属数据，中国168、印度110、美国55、英国30；多国重复计数，仅描述量而非质量或监管影响。
9 讨论与研究优先事项：综合研究问题答案，方法分内在、事后和反事实，TAMV明确验证，评估可见性低，监管映射非自动合规。9.1 综合：应用以一般信用评分和PD领先，反事实信号24条即4.4%；评估语言低可见，需区分预测区分度、解释忠实性与稳定性、接收者理解和公平。9.2 研究优先事项：将AI Act第9—15条转为解释人工物与验证测试，构建金融专用基准并纠正South German Credit；联合优化公平与可解释性，检验重训后救济、选择性标签与拒绝推断；监督者应可复现，LLM翻译理由需验证，SR 26-2排除生成式与代理AI但底层信用模型仍可能在内。9.3 生成式AI与基于语言的解释：LLM可抽取叙事特征、参与预测或翻译解释，各角色验证目标不同；需检查事实与数值 grounding、遗漏或误导排序、提示与模型一致性及接收者理解，若参与预测还须评估决策机制。9.4 局限与范围：仅英文Scopus 2017—2026文献，未含工作论文、预印本和非英文；查询词汇较窄且遗漏loan approval，IEEE诊断不能隔离数据库覆盖；全文核查小且非盲，元数据不能验证配对或数据集，无正式偏倚评估，未注册允许数据依赖选择，TAMV与基准需外部评估。
10 结论：SHAP在39.1%核心标题或摘要中被提及，解释质量评估信号为1.3—1.5%，反事实/救济信号为4.4%；TAMV连接任务、人工物、方法与验证，金融专用基准将综合转化为可检验优先事项，贡献是结构化评估议程而非方法排名。
