《Frontiers in Public Health》:Explainable deep learning for healthcare workforce attrition: a methodological study on the Watson healthcare synthetic benchmark
摘要:研究人员提出一种端到端、具Shapley加性解释(SHAP, Shapley Additive exPlanations)可解释性的深度神经网络(Deep Neural Network, DNN)框架,用于预测医疗行业员工离职(Attrition),以解决传统"黑盒"模型在人力资源分析中缺乏透明决策依据的问题。针对Watson Healthcare Benchmark(N=1,676,少数类占比11.87%)中存在的类别不平衡(Class Imbalance)问题,研究人员在每一折训练集内严格施用Synthetic Minority Over-sampling Technique (SMOTE, k=5)生成合成少数类样本使训练集平衡,并以z-score标准化处理连续特征。所建多层感知机(Multilayer Perceptron, MLP)采用漏斗型(Funnel Topology)隐层结构40→128→64→32→2,隐藏层依序进行线性变换、一维批归一化(Batch Normalization, BN)、修正线性单元(Rectified Linear Unit, ReLU)激活及Dropout(p=0.35),输出层经Softmax映射为二分类后验概率,以二元交叉熵(Binary Cross-Entropy, BCE)为损失函数,选用AdamW优化器并配合余弦退火(Cosine Annealing)学习率调度与早停(Early Stopping, patience=20)。模型性能通过分层5折交叉验证(Stratified 5-fold Cross-Validation)评估,指标涵盖准确率(Accuracy, ACC)、精确率(Precision, Pre)、召回率(Recall, Rec)、F1值(F1-Score)、Matthews相关系数(Matthews Correlation Coefficient, MCC)、受试者工作特征曲线下面积(Area Under the ROC Curve, AUC-ROC)及查准率–查全率曲线下面积(Area Under the Precision-Recall Curve, AUC-PR)。可解释性由DeepExplainer(基于DeepLIFT Rescale Rule)计算各特征关于预测对数几率(Log-Odds, Margin)尺度的Shapley值?j,给出全局平均绝对SHAP值排名及个体瀑布(Waterfall)分解。研究结果表明:所提紧凑MLP在5折交叉验证中取得AUC-ROC = 0.934±0.026与AUC-PR = 0.761±0.091,与梯度提升(Gradient Boosting)、随机森林(Random Forest, RF)及?2正则化逻辑回归(Logistic Regression, LR)统计无显著差异(p>0.05, Holm–Bonferroni校正);SMOTE未导致过拟合且不影响SHAP解释的可靠性(背景参照集取自未重采样原始训练集)。全局SHAP分析确定前七大驱动因子依次为加班(OverTime)、环境满意度(Environment Satisfaction)、婚姻状况为单身(Marital Status Single)、工作投入度(Job Involvement)、现任岗位年限(Years in Current Role)、年龄(Age)及通勤距离(Distance From Home),并通过依赖图(Dependence Plot)与个案瀑布图揭示非线性单调效应。该研究证明紧凑深度网络可与公理化的双层SHAP归因管线兼容,将黑盒预测转化为具审计能力的决策支持工具,为临床与公共卫生场景下的员工留任(Retention)干预提供数据驱动假设。
论文解读:基于SHAP可解释深度神经网络与SMOTE的医疗员工离职预测——发表于《Frontiers in Public Health》
一、研究背景与立题依据
员工自愿离职(Attrition/Voluntary Turnover)在医疗保健行业造成显著人力与经济负担,但传统预测模型多为梯度提升树或 logistic 回归等"黑盒"或仅具线性系数,无法为人力资源干预提供个体化、符合博弈论公理的因果式特征贡献解释。类别不平衡(少数类离职者常<15%)进一步导致多数类偏差,且合成过采样可能扭曲分布并影响解释可靠性,均需审慎校验。为此,研究人员以公开 Watson Healthcare Benchmark(IBM HR Analytics 数据集经医疗场景重标注)为对象,构建一紧凑、可SHAP解释的深层MLP,经严格嵌套SMOTE与分层交叉验证量化性能,并用Shapley值作全局及个案双级归因,旨在兼顾判别力与临床可操作性解释,并将发现的显著特征映射为候选留任干预杠杆。
二、主要关键技术方法概述
研究人员采用 Watson Healthcare Benchmark(N=1,676例,40维编码特征,正类"Leave" n+=199,π+=11.87%,不平衡比7.42∶1)。按80%/20%分层划分后,仅在各训练折内重新拟合StandardScaler与SMOTE(kNN=5, |S|=k)生成合成少数类样本达平衡(每折训练集扩为2,362例,1,181正/1,181负),测试折完全 untouched。深度网络为全连接MLP,拓扑40→128→64→32→2,各隐层依次执行 W(l)h(l-1)+b(l)→ BatchNorm(l)→ ReLU → Dropout(p=0.35),输出logits经Softmax得 P(y=c|x);参数初始化用He正态方案,可训练参量≈1.5×104。优化用AdamW(β1=0.9, β2=0.999, ε=10-8),解耦L2权重衰减γ=10-4,初始学习率 η0=10-3按余弦退火至0(Tmax=200 epoch),mini-batch=64,早停patience τ=20、容忍δ=10-4。性能以分层5折CV给出 ACC / Pre / Rec / F1 / MCC / AUC-ROC / AUC-PR(后者对不平衡敏感),对照?2-LR(C=1)、RF(B=300棵Gini树)、GBM(M=300, depth J=3, ν=0.05)。可解释性调DeepExplainer求边际(Log-Odds)尺度Shapley值?j(x),背景集|Dbg|=200取自原始未重采样训练池;全局重要性为 |?j| 跨样本均值,个案用瀑布分解验证局部准确性 f(x)=?0+Σ?j(x)。超参数由粗网格+Tree-Parzen Estimator(TPE, 50轮)内折优选,显著性检验用配对t、Wilcoxon符号秩及DeepLIFT校正DeLong,Holm–Bonferroni校正。
三、研究结果
4.1 Benchmark Characterization and Evaluation Protocol
数据集含1,676条、40特征、正类199(11.87%),训练1,340/测试336,SMOTE后训练集2,362(平衡),确认无数据泄露。
4.2 Training Dynamics and Convergence
训练/验证交叉熵迅速下降,验证AUC-ROC >0.99(约20 epoch),早停于epoch 48,训练–验证损失差最大0.07,表明BN+Dropout+权重衰减抑制过拟合,余弦退火促平滑收敛。
4.3 Predictive Performance on the Held-Out Test Set
单测试集:DNN(AUC-ROC 0.891, F1 0.597, MCC 0.546)与LR、RF相当,略低于GBM(AUC-ROC 0.928);但指出单分折受抽样波动影响。
4.4 Cross-Validation Robustness and Stability
5折CV:DNN AUC-ROC = 0.934±0.026,AUC-PR = 0.761±0.091,F1 = 0.670±0.109,Rec = 0.764±0.081,MCC = 0.625±0.125——在四模型中AUC-ROC与AUC-PR最高,与GBM(LR/RF)统计无显著差异;GBM单分折优势消失,证明DNN与此三类经典模型在此队列判别力相当。
4.5 Statistical Significance Testing Between Classifiers
配对Wilcoxon / t / DeLong检验Holm校正后所有 padj>0.05,确认模型族间性能无统计学差异。
4.6 Probability Calibration Analysis
DNN Brier Score = 0.0712,ECE = 0.034(优于LR 0.063),无需Platt缩放即具良好概率校准,适合设定绝对风险阈值触发干预。
4.7 Ablation Study on Architecture and Hyper-Parameters
去除Dropout致AUC-PR降至0.689、训练–验证损失差扩至0.18(过拟合);过浅/过深拓扑降性能;去掉BN降AUC-ROC 0.018且收敛慢;AdamW+余弦优于SGD或常学习率——证实所选漏斗宽、p=0.35、优化策略联合最优。
4.8 Comparison with Modern Tabular Deep-Learning Architectures
同条件下TabNet(AUC-PR 0.721)、NODE(0.738)、FT-Transformer(0.755)与MLP(0.761)相差≤0.02且无统计差异,但现代架构参量及耗时显著增加,故紧凑MLP兼具兼容DeepSHAP与效率。
4.9 Practical Advantages of the Deep Learning Framework over Gradient Boosting
虽GBM数值稍优单分折,但(1)DeepSHAP沿连续可微图给光滑依赖曲线,TreeSHAP呈阶梯且受相关特征伪分配影响;(2)DNN原生对数几率校准优于GBM需后校(后校破坏TreeSHAP局部准确公理);(3)深度图易扩展时序/文本/多模态并保持同一SHAP归因;(4)≈15k参数轻便可审计——故选DNN作可解释性载体而非精度导向替代GBM。
4.10 Comparison of Class-Imbalance Handling Strategies
无重采样Recall仅0.392;随机欠采样AUC-PR降至0.694;类别加权交叉熵(AUC-PR 0.741)、ADASYN(0.755)、Borderline-SMOTE(0.752)与SMOTE(0.761)统计无差异,SMOTE微幅领先;SHAP前20特征排序各过采样变体Spearman ρ≥0.91,说明解释稳定性。
4.11 Influence of Oversampling on Bias, Generalization, and SHAP Reliability
SMOTE纠正而非引入多数类偏差——测试折保持原始先验算Brier/ECE;训练–验证损失差0.07、CV-AUC-PR稳定、类别加权法(无非合成样本)只差≤0.02 AUC-PR,证无泛化退化;SHAP背景取未重采样原始池,前三背景重抽Spearman秩相关 ρ=0.97–0.99,前七大驱动完全一致,证解释不受SMOTE损害。
4.12 External Validation on the IBM HR Analytics Dataset
IBM基准直接5折CV:AUC-ROC 0.926±0.022,AUC-PR 0.732±0.078(接近Watson结果);Watson→IBM零 shot迁移AUC-ROC 0.853,仍远高于随机;IBM上前五驱动重叠Watson前五四(仅Job Satisfaction替换Environment Satisfaction),佐证管道鲁棒性与SHAP排名跨相关基准一致性。
4.13 SHAP Stability and the Risk of Misinterpretation Under Correlated Features
20次独立背景重抽全局排名Spearman ρ=0.94±0.04,前七驱动恒定;高度相关簇(Age/Total Working Years/Years At Company等)应合取?求和解读防稀释误判,如资深度集群总贡献1.40(对数几率尺度)。
4.14 Global Feature Importance via SHAP
全局 |mean(|?j|)| 排序前七:①OverTime(1.77)↑推高离职对数几率;②Environment Satisfaction(0.90)↓保护性;③Marital Status Single(0.87)↑风险;④Job Involvement(0.81)↓保护性;⑤Years in Current Role(0.77)↓保护性(阈值效应:首年高风险);⑥Age(0.72)↓保护性;⑦Distance From Home(0.72)↑风险。Beeswarm显示各特征红(高值)/蓝(低值)相对零线方向一致且单调。
4.15 Non-Linear Effects and Individual Explanations
依赖图示OverTime二元跃升+1.5~+6对数几率单位;Environment Satisfaction评分1→+3、评分4→-3;Single婚姻近全正贡献;Job Involvement / Age / YearsInCurrentRole强负梯度(<30岁或任职首年高风险)。个案#334(预测Leave P?=1.000):OverTime(+3.57)、低Job Involvement(+2.45)、长通勤(+1.59)、Single(+1.54)、年轻(+1.37)、零 tenure(+1.02)推高对数几率,仅高Job Satisfaction(-0.54)微降——典型过劳低投入早期员工。个案#983(预测Stay P?=0.000):高Job Involvement(-1.67)、年长(-1.51)、长工龄(-1.11)、无OverTime(-0.94)、短通勤(-0.87)等下拉对数几率,仅略低EnvSat(+0.64)——资深稳定员工。瀑布分解满足局部准确公理 f(x)=?0+Σ?j(x),基准期望值?0=E[f(X)]=-6.58。
四、讨论与结论总结(翻译结论核心)
在此研究中,研究人员构建了端至端具SHAP可解释性的深度神经网络,用于Watson Healthcare合成基准(IBM HR Analytics数据集医疗场景重标注版)上的医疗行业员工离职预测。所提紧凑40–128–64–32–2漏斗型MLP经SMOTE平衡训练、AdamW优化与余弦退火,在分层5折交叉验证中取得AUC-ROC = 0.934±0.026与AUC-PR = 0.761±0.091(四对比模型中最高),与Logistic Regression、Random Forest及Gradient Boosting统计无显著差异;与TabNet、NODE及FT-Transformer相比性能相当但参量远更少且与DeepSHAP归因完全兼容。SMOTE步骤经三项诊断证实:纠正而非引入多数类偏差,未损及未重采样测试折泛化,且当SHAP背景参照取自原始未重采样分布时对解释排名无影响(Spearman ρ≥0.97)。全局与个案SHAP归因一致识别加班(OverTime)、环境满意度(Environment Satisfaction)、单身婚况(Marital Status Single)、工作投入度(Job Involvement)、现任岗位年限(Years in Current Role)、年龄(Age)及通勤距离(Distance From Home)为预测离职对数几率的七大主导因子,并揭示其非线性单调阈值效应。此框架将黑盒DNN转化为可审计、具个案分解能力的分析工具,把定量预测联结至三条候选留成干预杠杆——减少加班、改善工作环境及通勤支持——为临床场景下的可解释人力分析提供可迁移模板。受限于当前为两公开合成基准回顾性二次分析,所述干预杠杆应视为数据驱动管理假设而非已验证临床干预,未来需在真实脱敏医院人力队列上行前瞻性评价,并扩展至纵向生存建模、因果Shapley与多模态表征学习。