《ADVANCED ENGINEERING INFORMATICS》:Credit risk assessment using bayesian networks and machine learning approaches
编辑推荐:
摘要
信用风险(credit risk)评估对借贷机构的金融稳定性与运营效率至关重要。传统模型往往难以捕捉现代金融数据中复杂的系统性风险。本研究旨在同时提升信用风险评估模型的预测准确性与可解释性,提出一种双重框架,将机器学习(ML)技术与贝叶斯网络(BN)建模
摘要
信用风险(credit risk)评估对借贷机构的金融稳定性与运营效率至关重要。传统模型往往难以捕捉现代金融数据中复杂的系统性风险。本研究旨在同时提升信用风险评估模型的预测准确性与可解释性,提出一种双重框架,将机器学习(ML)技术与贝叶斯网络(BN)建模进行比较。研究人员采用LendingClub跨越多个经济周期的数据集,实施严格的数据预处理、类别平衡与特征工程。研究分为两个阶段:基线模型仅使用借款人与贷款特征;增强模型进一步纳入通货膨胀率、失业率与人均GDP等宏观经济指标。ML部分应用集成方法、深度神经网络与梯度提升识别违约模式;BN部分则通过特征离散化、基于禁忌搜索(Tabu search)的结构学习及期望最大化(EM)算法进行参数估计。主要结果显示,宏观经济指标的引入显著提升了模型性能,增强型BN的AUC由0.725提升至0.757。虽然集成ML模型在区分度上略优(如XGBoost的AUC达0.770),但宏观增强BN在准确率(86.6%)与概率校准方面表现极具竞争力,这对监管合规尤为关键。敏感性分析、互信息(mutual information)与前后向推理表明,债务收入比、次级评级、利率、贷款期限与失业率是影响违约的最关键驱动因素。总体而言,研究表明宏观增强BN可在保持高竞争力的预测性能的同时,提供可解释且符合监管要求的信用风险评估模型,支持组合层面的决策与个案层面的精细解释。
论文解读
研究背景
信用风险是银行业面临的最主要威胁之一,违约事件会侵蚀利润并可能引发系统性危机。巴塞尔II框架要求银行通过内部模型估算预期损失(EL = PD × EAD × LGD),其中PD为违约概率(Probability of Default)、EAD为违约风险暴露(Exposure at Default)、LGD为违约损失率(Loss Given Default)。传统统计方法(如逻辑回归)假设线性关系,难以处理非线性、高维数据。机器学习(ML)虽能捕捉复杂模式,但常被视为“黑箱”,缺乏透明度,难以满足金融监管对可解释性的要求。贝叶斯网络(BN)以有向无环图(DAG)表示变量间的条件依赖关系,兼具预测能力与因果解释优势。然而,现有研究缺乏对ML与BN在相同数据集上的直接比较,且很少系统性整合宏观经济指标。为此,研究人员提出融合ML与BN的双重框架,并在跨周期真实数据上进行验证,以提升模型在预测精度、概率校准及可解释性方面的综合表现。该研究成果发表于《ADVANCED ENGINEERING INFORMATICS》。
关键技术方法
研究基于LendingClub平台2007–2018年的美国消费信贷数据集,涵盖借款人属性、贷款特征及还款状态。数据预处理包括缺失值处理、重复记录删除、数据类型标准化及异常值控制;类别不平衡通过随机欠采样(RUS)与SMOTENC(Synthetic Minority Over-sampling Technique for Nominal and Continuous features)两种方式分别处理,并在年度层面实施以避免时间泄漏。特征工程阶段除基础数值转换外,还引入通货膨胀率、失业率、人均GDP等宏观经济变量,并构造其平方项及交互项。ML模型涵盖逻辑回归、决策树、K近邻(KNN)、随机森林、高斯朴素贝叶斯、LightGBM、XGBoost、梯度提升机与神经网络,采用CatBoost进行嵌入式特征选择。BN构建包括基于K均值聚类的特征离散化、禁忌搜索(Tabu search)结构学习、期望最大化(EM)参数估计,并进行敏感性分析与互信息计算。
研究结果
1. 机器学习模型性能
SMOTENC方法在多数模型中提供了更优的AUC与校准效果(Brier Score、Expected Calibration Error, ECE),因此被选为基准训练策略。引入宏观经济变量后,集成学习方法整体表现最佳,其中XGBoost的AUC达0.770,KS统计量为0.380,Random Forest的准确率达88.0%,Gradient Boosting在校准方面最优(ECE 0.059)。
2. 贝叶斯网络模型性能
基线BN的准确率为84.6%,AUC为0.725;加入宏观经济变量后的增强BN准确率提升至86.6%,AUC提升至0.757。增强BN的概率校准表现优异(Brier Score 0.109,ECE 0.088),与最佳ML模型相当。
3. 比较分析
ML模型在原始分类指标上略占优势,但BN在概率校准与可解释性方面更具竞争力。BN能够直观展示变量间因果关系,支持前向推理(预测违约概率)与后向推理(追溯违约原因),满足监管对透明度的要求。
4. 敏感性分析与互信息
敏感性分析显示,基线BN中贷款期限、次级评级、破产记录对违约影响最大;增强BN中失业率成为主导因素,其次为贷款期限与利率。互信息结果证实,债务收入比、次级评级与利率是最强的个体风险预测因子,而失业率与通胀-GDP交互项在宏观增强模型中重要性显著提升。
5. 推理分析
前向推理表明,长期贷款与高债务收入比显著提升违约概率,且这种效应在经济低迷期更为明显;后向推理可追溯已发生违约的主要驱动因素,有助于风险诊断与缓解策略制定。
讨论与结论
本研究填补了ML与BN在信用风险评估中系统性比较的空白,证明宏观经济变量的整合可在不牺牲可解释性的前提下显著提升BN的预测性能。Tabu搜索在BN结构学习中优于PC算法、朴素贝叶斯与贝叶斯搜索。研究提出的双重框架兼顾高精度与高透明度,能够在监管合规环境下支持投资组合管理与个案决策。未来研究可拓展至多国数据与更多宏观经济维度,并探索ML与BN的深度融合以增强实时风险管理的适应性与稳健性。