《Machine Learning and Knowledge Extraction》：Adapting Skew-Probabilistic Neural Networks for Credit-Risk Probability Estimation
编辑推荐：
偏斜概率神经网络（SkewPNN）将Parzen分类与偏斜核及元启发式调参融合。研究人员将其适配为信用风险概率模型CRASK（Credit-Risk Adaptive Skew-normal Kernel）：一种具有类别与特征特异性带宽、类别变量平滑和自适应乘
偏斜概率神经网络（SkewPNN）将Parzen分类与偏斜核及元启发式调参融合。研究人员将其适配为信用风险概率模型CRASK（Credit-Risk Adaptive Skew-normal Kernel）：一种具有类别与特征特异性带宽、类别变量平滑和自适应乘子的偏正态核，并通过自排除条件对数损失拟合。贷款机构的问题是这些概率是否会改变接受决策与损失。在七个公开信用数据集的探索性折内基准上，采用精确核和的CRASK在平均以及七分之五数据集上提高了AUC-ROC，优于经网格调参的已发表核SkewPNN基线；将核和截断至150个近邻后，在相同等渗重校准后，其在全部七个数据集上改善对数损失，并在四个具结果标签数据集上改善平均实现利润。逻辑回归在平均判别力上领先；经调参的提升模型、可解释提升机和表格基础模型在判别力、概率质量和利润上领先。原始后验过度离散（平均校准斜率0.38）；重校准流程为所提出的概率模型。在所测试规则中，拟合密度相较最近邻距离未增加价值。在对一家贷款机构放款批次的回顾性比较中（并非实时检验），排序可迁移，校准损失位于等渗映射被截断的极端区块。
研究背景与问题：信用风险概率估计需兼顾排序与概率尺度；模型可排序好而概率过极端；接受决策受成本阈值影响；类别平衡改变训练分布，其输出作概率前需单独评估；严格违约概率（PD）解释仅适用于有结果标签数据集。Parzen分类器及概率神经网络（PNN）可由一个拟合对象给出后验、先验、成本阈值和密度，但受带宽敏感与维数灾难限制。SkewPNN以偏正态核和元启发式调参，在20个不平衡基准上表现良好，但用于信用需适配等先验与argmax规则、连续与分类混合特征、训练内按概率准则选参及Parzen核和成本。该研究据此适配，并分别检验其是否改进本族、是否具竞争力、是否改变接受决策与实现损失，同时报告负面结果。
研究人员提出CRASK，在七个公开信用数据集上实施折内预处理、选参与校准，并开展决策分析和跨放款年份回顾性评价；结论为族内优于网格调参的已发表核基线，但弱于调参提升、可解释提升机和表格基础模型，逻辑回归平均判别力领先；原始后验需重校准；主要贡献是对该核族适配信用数据的收益与边界的实证说明。
关键技术方法（≤250字）：七个公开信用数据集（German Credit、Australian、Thomas、HMEQ、Polish、Taiwan、GMSC；最大两集分层取10,000例）均按训练折内拟合预处理、选参与校准。CRASK含归一化偏正态核、每类每特征带宽、Aitchison–Aitken类别核、Abramson自适应带宽与一个学习敏感度，以自排除条件对数损失和L-BFGS-B自动微分拟合，核和截断至k近邻。比较PNN/SkewPNN、逻辑回归、XGBoost、LightGBM、可解释提升机（EBM）、表格基础模型（TabPFN）和k近邻；用等渗、Platt、beta校准；决策分析用固定批准率与成本规则；跨期用Lending Club 2013训练、2014校准、2015测试。
7.1 按数据集的判别：原始输出上TabPFN、调参XGBoost、LightGBM、EBM一组，逻辑回归与核模型为第二组，SkewPNN基线第三组；逻辑回归在HMEQ因强非线性失效，CRASK在七集平均落后、在结果面板领先；核族整体判别不具优势。
7.2 SkewPNN族内比较：排序用AUC-ROC选择基线、概率用对数损失选择基线。k=150截断时CRASK平均提高0.0292 AUC-ROC、7/7领先；精确核和时提高0.0173、5/7领先，Taiwan与GMSC落后，精确核和边际为族内效应。原始概率仅1/7领先；同一等渗后CRASK-Cal对数损失改善0.0255、7/7领先，Brier改善0.007、6/7领先；概率主张适用于校准流程。
7.3 校准与CRASK-Cal：原始CRASK过度离散，平均校准斜率0.3815，等渗后0.9494，平均对数损失0.4792降至0.367，ECE 0.0892降至0.0305；非截断伪影。等渗修复核后验但损害良好校准模型，Platt对良好模型接近原始值；最佳概率仍属提升/先验拟合模型，CRASK-Cal 0.367，原始TabPFN 0.3059、XGBoost 0.3162。CRASK-Cal是所提概率模型。
7.4 消融：保留带宽结构、类别核、准则与截断后，偏度平均主效应0.0073 AUC-ROC、自适应带宽0.0079（交互?0.002），校准后相近；单一带宽换为基准结构增0.0212，特征细化0.0103、类别细化0.0046；k近邻后验0.7689/0.7702，CRASK 0.7744，邻域成分分析后k近邻0.7487。自适应与带宽结构有增量，但相对最近邻差异小。
8 决策分析：离线条件实验，结果来自历史已授予贷款或申报公司，非因果；仅结果面板，每申请暴露为1，按违约损失与成本比计利润。8.1 会计：固定批准率检验排序，成本规则检验概率尺度，均用校准概率。8.2 模型价值：70%批准率下平均实现利润TabPFN 0.0192、LightGBM 0.0186、XGBoost 0.0182、EBM 0.0168、CRASK 0.0155、SkewPNN 0.0115、投影0.0093、逻辑回归0.0085；族内增益到达决策但核族仍落后；排序在6/6情景块成立；Taiwan在一种成本比下70%批准率均亏损、另一种下均盈利。8.3 密度增量：在给定校准概率下，典型性在333/630单元更低成本，无标签最近邻距离在348；用原始分数为386与398；未发现密度超出无标签距离的决策价值，人工复核未计成本前仅是选择性风险表述。8.4 收益与损失分布：Taiwan与GMSC按预先分组，在共同规则下CRASK批准者不良率在16/16有定义组中高于调参XGBoost，最多高0.0313，仅描述符号非检验差异；GMSC 30岁以下组70%批准率下CRASK批准57%对43–47%，AUC-ROC 0.694对0.7482–0.7739，不良率0.0463对0.0246–0.0412；Taiwan各组批准率差异≤0.0498。
9 跨期：Lending Club 36个月已终态贷款，2013训练、2014校准、2015测试，不良率12.33%→13.73%→14.86%，为回顾性。XGBoost、TabPFN、EBM、逻辑回归判别大体迁移；投影与随机森林损失。2014图下斜率逻辑回归0.9316→0.4888、LightGBM 0.7503→0.6335、EBM 0.9125→0.7588、CRASK 1.0009→0.1729；多数模型原始斜率0.9417–1.0488；2013交叉拟合图下多数模型0.9016–1.0473，逻辑回归0.4255与CRASK0.3903在两种图下均下降。损失位于等渗映射截断极端；原始空间核跨期0.5891，调参提升0.6816，投影0.6585。排序大体迁移，校准失效集中于极端截断块。
讨论总结：完整适配在族内改进了精确核和排序（平均+0.0173 AUC-ROC，5/7）及截断k=150后校准概率与结果面板平均实现利润；但核模型在判别、概率质量与利润上落后调参提升、EBM和TabPFN，逻辑回归平均判别领先。HMEQ提示的适用模式是新数据假设而非选择规则。与方法无关的观察是：排序跨三个放款年份可迁移，校准损失集中于等渗映射截断极端块，提示使用中需监测概率极端；统一等渗可修复差校准模型，也可损害小样本良校准模型。先验、平滑参数、原型和典型性可检查但非经验证特征归因或监管解释；成本阈值和标签偏移校正适用于任何校准后验，典型性可由最近邻距离匹配。结果来源为已接受贷款或申报公司，不能说明被拒申请、贷款设计或均衡效应；需拒贷推断。局限包括探索性、小而异质集合、仅四个结果标签集、German Credit参与开发、精确核和仅5/7领先、情景成本、亚组仅两源、自排除准则仍含自影响、理论仅覆盖参考估计量、跨期仅一家机构一个回顾性划分。未来需观察拒贷的拒贷推断、在提升学习表示上检验核、以及不同批次结构的校准衰减。
结论翻译：CRASK在SkewPNN框架上以归一化偏正态核、类别与特征特异性带宽、类别平滑和学习自适应乘子构建，并由自排除条件对数损失拟合。在折内协议下，其以精确核和相对网格调参已发表核SkewPNN基线改善排序，平均提高0.0173 AUC-ROC并在5/7数据源领先；核和截断至150个近邻时，在结果面板上改善校准概率质量和实现利润。然而，判别力和适当评分均未确立其相对逻辑回归与调参提升的优势。原始后验需重校准后才能作为违约概率使用；在对所考察单一贷款机构放款批次的回顾性比较中，该重校准的极端区块失效。主要贡献是对该核族适配信用数据的收益与局限的实证说明。
