《AI》:AI-Driven Hybrid Probability-of-Default Scoring with Self-Attention and Isotonic Calibration for Payroll-Anchored Retail Borrowers
编辑推荐:
工资代发锚定型零售借款人——即其月度薪酬通过工资代发项目安排汇入放贷机构账户的个人——构成了哈萨克斯坦无担保消费贷款的核心规模基础,产生了最大的贷款发放流量、最低的已实现违约率,以及二级银行体系中大部分系统性监管与资本敏感性。工资代发锚定还改变了贷款人的信息集
工资代发锚定型零售借款人——即其月度薪酬通过工资代发项目安排汇入放贷机构账户的个人——构成了哈萨克斯坦无担保消费贷款的核心规模基础,产生了最大的贷款发放流量、最低的已实现违约率,以及二级银行体系中大部分系统性监管与资本敏感性。工资代发锚定还改变了贷款人的信息集,这促使研究人员考察该信息优势如何转化为模型性能与借款人结果。
研究人员设计并完成了一个可解释的混合人工智能(AI)框架的内部验证,并按客户存续期(tenure)分层构建为两个生产模型:针对新的工资代发项目申请人,采用基于证据权重(Weight-of-Evidence, WOE)的逻辑回归(Logistic Regression, LR)评分卡;针对重复申请人,采用混合评分卡,其中由 LightGBM、CatBoost 与多头自注意力(multi-head self-attention)神经网络组成的堆叠集成(stacked ensemble)向第二阶段带 L2 正则化(L2-regularized)的逻辑回归贡献一个单一的 WOE 编码预测变量。该混合框架在决策时点保持了可审计、单调的评分卡形式,同时恢复了集成模型判别提升(discriminatory lift)中的相当大一部分;而保序重校准(isotonic recalibration)则使预测违约概率(probability of default, PD)恢复到经验坏账率尺度,以满足《国际财务报告准则第9号》(IFRS 9)预期信用损失(expected credit loss, ECL)计提与风险定价(risk-based pricing)的要求。
论文在严格防泄漏(anti-leakage)协议下报告了关于判别能力、校准能力与稳定性的证据,并阐明了该架构可迁移至其他新兴市场工资代发锚定型资产组合的结构性前提。研究人员明确界定了研究范围:真正的跨时间验证(out-of-time validation)与完整的组条件公平性审计(group-conditional fairness audit)被认定为必要的下一步工作,而非本文已完成的内容。本文的贡献在于提出了一种可复现、可解释的评分设计,在生产决策引擎内部保留全部系数可解释性的同时,有效利用了工资可视性带来的信息优势。
该文发表于《AI》,研究聚焦哈萨克斯坦最大二级银行中工资代发锚定型零售借款人的无担保分期贷款评分问题。研究背景在于,工资代发项目(salary-project)是当地零售信贷最重要的获客与放款渠道,借款人的工资持续流入本行账户,使银行能够获得高频、可核验的现金流信息,并通过代扣机制降低逾期成本。因此,这一群体一方面是最具业务规模和相对安全性的客群,另一方面又因其体量巨大、PD直接进入《国际财务报告准则第9号》(IFRS 9)预期信用损失(expected credit loss, ECL)计提、风险定价及监管资本计算,而成为模型校准失真最具监管敏感性的组合。论文指出,仅有较高的排序能力并不足够;若PD水平偏离真实坏账率,即便AUROC较高,也会造成ECL计提、定价和审批阈值设定的系统性偏差。与此同时,生产环境还受到实时决策时延、只能使用申请XML可传输字段、模型可审计与局部可解释、评分卡单调性等多重约束,因此需要一种既能利用非线性信息,又能保持部署端评分卡透明性的架构。
围绕这一现实问题,研究人员提出了一个按客户存续期分层的双轨混合人工智能(AI)评分框架。对于新工资代发项目客户,由于缺乏充分的行内行为数据,仅构建基于证据权重(Weight-of-Evidence, WOE)的逻辑回归(Logistic Regression, LR)评分卡;对于重复客户,则先以 LightGBM、CatBoost 和多头自注意力(multi-head self-attention)神经网络构成堆叠集成(stacked ensemble),输出一个违约概率(probability of default, PD),再将该连续PD离散为10个等频分箱并进行WOE编码,作为单一额外变量 ens_pd_woe 输入第二阶段 L2 正则化逻辑回归,从而在在线决策系统内保留可检查的线性评分卡结构。研究结论显示,这一设计在重复客群中将基线 WOE-LR 的测试集 AUROC 从0.792提升至0.818,KS 从0.430提升至0.491;虽然独立离线集成模型的 AUROC 可达0.893,但其无法满足实时性与可解释性要求,而混合架构在部署约束下回收了约四分之一的额外判别增益。更重要的是,原始集成层存在严重PD高估,平均PD约0.33~0.34,而经验坏账率仅约0.06;通过保序回归(isotonic regression)重校准后,PD恢复至经验坏账率尺度,期望校准误差(Expected Calibration Error, ECE)由0.316降至0.0009以下,Hosmer–Lemeshow 检验 p 值升至1.00,Brier分数明显改善。论文据此认为,该框架证明了工资可视性信息能够被有效转化为判别力、校准力和稳定决策,并在不牺牲生产部署审计性的前提下实现非线性信息的货币化利用。
从意义上看,本文的价值不仅在于模型性能提升,还在于提出了一种监管兼容(regulator-compatible)的信用评分设计范式。该范式将非线性集成信号折叠为一个单一的WOE变量,使最终上线对象仍为十三个可解释系数的逻辑回归评分卡,满足监管机构对单调、可审计、可解释模型的要求;同时又通过保序校准使PD具备直接用于IFRS 9 ECL计提与风险定价的可读性。论文还发布了训练集与测试集之间的单调WOE趋势诊断,以匿名但可复现的形式展示监管证据包中的关键稳定性材料,这在区域信用评分文献中较为少见。作者也谨慎指出,当前证据仍属于内部验证,尚未完成按放款时间划分的跨时间(out-of-time, OOT)验证,也未完成完整的组条件公平性审计,因此本文更适合作为精心构建的内部验证与可部署架构展示,而非已完成全部监管验证的最终生产结论。
就主要技术方法而言,研究基于哈萨克斯坦最大二级银行2022年1月至2024年3月发放的1,895,874笔工资代发分期贷款合同样本开展分析,按重复客群与新客群分层建模。方法上依次采用严格防泄漏变量清洗、卡方分箱与证据权重(WOE)编码、信息值(Information Value, IV)和相关性筛选、递归特征消除交叉验证(RFECV)、Optuna 超参数优化、LightGBM/CatBoost/多头自注意力神经网络堆叠集成、第二阶段 L2 正则化逻辑回归折叠、保序回归校准,以及 AUROC、KS、Brier、ECE、Hosmer–Lemeshow 与总体稳定性指数(Population Stability Index, PSI)评估;解释性部分采用 SHAP(Shapley Additive Explanations)进行全局与局部归因。
在研究结果部分,论文首先交代了市场与样本结构。工资代发贷款虽然在无担保零售信贷中的占比有所下降,但绝对规模持续增长,仍是哈萨克斯坦二级银行消费贷款的最主要体量来源。产品上,作者将样本区分为重复工资代发客户与新工资代发客户。历史账龄曲线显示,重复客群在账户存续前24个月内违约累积显著慢于新客群,尤其在放款后前6个月差异更明显,这为分层建模提供了业务依据。
在“Production Data”部分,研究人员说明数据来自该行贷款发起库,分析单位为合同层面,目标变量为 NPL91_EVER,即在固定观察窗内曾发生90
+天逾期、重组或因客户死亡而终止的合并不良标记。为避免工资代发场景特有的数据泄漏,研究剔除了客户标识符、联合申请标识、后验状态字段、高基数产品分类、放款后宏观变量及含身份信息的自由文本字段,并对各特征家族进行“as-of timing”审计,以区分可进入实时在线评分器的变量与仅可离线预缓存的变量。经过 toad 框架筛选后,重复客群保留93个离线分析变量,新客群保留47个在线变量,再按70/20/10划分训练、测试与验证集。
在“Hybrid AI Modeling Architecture”部分,论文形式化了核心模型。首先,所有变量均通过WOE重编码进入模型,以保证每个预测变量在log-odds尺度上的可加性和单调性,并通过信息值评估区分能力。随后构建第一阶段基线模型,即在WOE矩阵上进行带类别权重与正则化的逻辑回归,并通过 RFECV 联合选择惩罚强度与变量子集。对于重复客群,再引入第二阶段混合机制:LightGBM、CatBoost 与多头自注意力神经网络分别在WOE化特征上训练,自注意力网络采用全连接骨干网络、BatchNorm、ReLU、Dropout 与多头注意力模块,并使用带类别权重的二元交叉熵损失、Adam优化器、早停和梯度裁剪。三个基学习器按折外AUROC加权组合形成集成PD,再将该PD分箱并WOE化为 ens_pd_woe,输入第二阶段逻辑回归。该设计使非线性信息以单一额外系数形式被纳入评分卡,既压缩解释复杂度,也符合不良行动原因码(adverse-action reason code)的监管要求。
在“Why Probability-of-Default Calibration Is Necessary for the Salary-Project Portfolio”部分,作者论证了为什么该组合必须重视PD校准。论文强调,AUROC、Gini 与 KS 只反映排序能力,不约束预测概率水平,而工资代发贷款组合中的PD直接用于IFRS 9 ECL、风险定价、内部评级法资本计量与审批拒绝阈值,因此高排序但错误PD会造成直接财务后果。研究发现,提升类模型与采用类别重加权训练的神经网络具有结构性失校准倾向,导致重复客群原始集成PD大幅高估。基于分布形状在高风险分位处明显偏离sigmoid曲线,作者选择保序回归而非Platt scaling 作为主校准器,因为保序回归能够拟合任意单调关系,并在该组合最关键的0.05–0.30 PD区间内提供更好的精度。
在“Monotonic WOE Trends”部分,论文提出并展示了训练集与测试集的单调WOE趋势诊断。研究保留的重复客群前九个重要预测变量在十个WOE分箱上均呈现预期方向的单调变化,训练与测试曲线形态接近,未出现方向反转。这一结果被作者解释为:保留下来的变量未出现明显过拟合、未暴露未建模交互,也未显示隐藏泄漏信号;同时,该诊断还能作为监管验证材料的一部分,用于支持评分卡变量单调性与稳定性的合规审查。
在“Results: Discrimination”部分,论文报告了区分能力结果。信息值排序显示,征信局属性家族(fcb_)在新旧两个客群中均最具判别力,其次是行内流入家族(bank_);存款与交易家族(depo_、trans_)在重复客群中重要性突出,但在新客群中贡献有限,原因是新客群尚无充足历史流入数据。指标层面,重复客群混合模型在训练/测试集上的 AUROC 为0.813/0.818,KS 为0.470/0.491;新客群 WOE-LR 在训练/测试集上的 AUROC 为0.764/0.762,KS 为0.367/0.362。训练与测试结果接近,说明显著过拟合迹象较弱。作者进一步指出,混合模型相对于基线模型的提升主要来源于离线的 depo_ 与 trans_ 家族,这恰好说明额外收益来自不能通过实时申请XML直接传输、必须以前夜预缓存方式进入决策系统的信息。
在“Results: Calibration”部分,作者采用三段式样本隔离策略:训练集用于拟合基集成与第二阶段逻辑回归,验证集用于拟合保序校准器,测试集用于报告校准结果。结果表明,保序重校准将重复客群训练集平均PD从0.34降至0.061、测试集从0.33降至0.062,与经验坏账率0.060和0.059高度一致;ECE从0.316降至0.0009,Hosmer–Lemeshow p值由极低水平升至1.00,Brier分数由0.182降至0.057。与此同时,由于单调变换不会改变排序,KS值保持不变,但KS最优阈值在校准后转化为约0.058~0.059的真实PD尺度,从而具有可直接映射到ECL分桶和定价网格的业务含义。
在“Results: Score Bands”部分,研究给出了重复客群测试集的十分位评分带分析。风险最高的两个评分带仅占20%人口,却覆盖了64.2%的违约者;前四个评分带覆盖79.1%的违约者。相对地,最安全的两个评分带坏账率不超过1.3%。这一结果说明校准后的PD在策略制定中具有较好的分层可用性,可以为风险阈值划定和定价梯度提供直观依据。KS分离图进一步显示,违约类与非违约类在约0.06的校准PD附近达到最大垂直距离,对应明确的策略切分区域。
在“Explainability via SHAP”部分,作者说明解释性分析采用 SHAP(Shapley Additive Explanations)。在全局层面,各特征家族按平均绝对Shapley值排序,其结果与信息值排序高度一致:fcb_ 以及 depo_/trans_ 家族居前,其后为 bank_ 与 app_ 家族;在局部层面,系统可为每一笔被拒申请输出逐记录归因向量,并映射为不良行动原因码,以满足监管要求的记录级解释义务。这里特别重要的一点是,由于集成层被折叠为单一 ens_pd_woe 变量,混合模型在解释空间中的新增复杂度被控制为一个额外Shapley项,而非大量树叶节点虚拟变量。
在讨论部分,作者围绕三个研究问题进行了归纳回答。针对 RQ1,结果证明在严格防泄漏条件下,多头自注意力增强的堆叠集成能够在工资代发重复客群上带来稳定的边际判别增益;针对 RQ2,将集成PD折叠为单一十等频WOE变量的做法,使生产对象仍保持为十三系数逻辑回归评分卡,符合实时性与可解释性要求;针对 RQ3,保序校准显著改善了PD概率层面的可用性,且各特征PSI均低于0.07,表明内部验证下的稳定性较好。不过作者也强调,由于尚未进行真正的跨时间验证,因此这些校准证据仍应被理解为支持进一步生产应用的内部依据,而非已经完成最终认证的监管结论。
论文还系统列出了局限性:开发窗口处于相对稳定的宏观环境,尚未经历压力情景;征信强度特征的高信息值需要周期性复验;最高风险十分位的保序校准略有低估;尚未进行按放款日期划分的 OOT 验证;尚未完成按性别、年龄、城乡、公私部门雇主等维度的组条件公平性审计;模型只基于已放款样本,未进行拒绝推断(reject inference);未完成基学习器级别的消融实验与统计提升向违约捕获数、预期损失变化的经济翻译;尚未进行借款人分组重估以彻底排除重复借款人泄漏;正式校准截距与校准斜率也尚未报告。这些限制说明作者对模型适用边界保持谨慎。
结论部分指出,研究人员已为哈萨克斯坦工资代发锚定型零售借款人构建并内部验证了一种可解释的混合人工智能评分框架。该框架在重复客群中实现 AUROC 0.818、Gini 0.636、KS 0.491,并保持生产输出为可透明审计的十三系数逻辑回归评分卡;在新客群中,模型依赖实时可得的申请XML输入实现 AUROC 0.762、Gini 0.524、KS 0.362。保序重校准修正了提升层带来的28个百分点PD系统性高估,使ECE从0.316降至0.001以下,并将Hosmer–Lemeshow p值提升至1.00。训练/测试单调WOE趋势诊断支持了保留变量分箱的稳定性。该框架被设计为符合哈萨克斯坦金融市场监管与发展署及哈萨克斯坦国家银行对可解释性、校准性与稳定性的要求。论文同时强调,该架构向其他新兴市场迁移并非自动成立,而需满足三项结构前提:贷款人能够高频观察借款人主要收入流入、征信局具备广覆盖与高更新频率、监管环境允许以可解释WOE评分卡作为部署对象并接受单一可审查的非线性覆盖层。在满足这些前提时,该双轨架构可通过重新估计而非重新设计的方式迁移。总体而言,本文展示了一种在强监管和实时部署约束下,将工资可视性信息、非线性学习能力与传统评分卡解释性有效整合的信用风险建模方案。