《Franklin Open》:MEDIAN AGGREGATION OF SHAP VALUES FOR ROBUST FEATURE SELECTION IN IMBALANCED BREAST CANCER PREDICTION MODELS
编辑推荐:
本研究提出一个用于乳腺癌预测的机器学习框架,使用类别型和混合型数据,重点增强可解释性与分类性能。该模型利用CatBoost算法,通过Optuna进行超参数调优,并采用SMOTEENN重采样技术解决类别不平衡问题。研究人员提出了一种新颖的特征选择方法,结合SHA
本研究提出一个用于乳腺癌预测的机器学习框架,使用类别型和混合型数据,重点增强可解释性与分类性能。该模型利用CatBoost算法,通过Optuna进行超参数调优,并采用SMOTEENN重采样技术解决类别不平衡问题。研究人员提出了一种新颖的特征选择方法,结合SHAP(SHapley Additive exPlanations)值与基于中位数的阈值策略,仅保留最具影响力的特征。该方法在实现降维的同时,保持了模型透明性和临床相关性。在乳腺癌数据集上的实证评估显示显著性能提升,最终模型准确率达到98.5%,在两个类别上均具有高精确率、召回率和F1分数。所提出的SHAP引导的特征选择方法提供了一种模型感知且可解释的机制来识别相关预测因子,使其特别适用于决策透明度至关重要的医疗应用。该框架具有适应性,在医学诊断和预测分析方面具有更广泛的应用前景。
**论文解读:基于中位数聚合SHAP值的不平衡乳腺癌预测模型鲁棒特征选择**
**1. 研究背景与问题**
乳腺癌是全球女性中最常见的恶性肿瘤之一,早期诊断对于提高生存率至关重要。尽管传统的影像学方法(如乳房X线摄影和超声)在检测中发挥了重要作用,但其在敏感性和特异性方面存在局限。随着机器学习技术的发展,计算机辅助检测系统通过先进算法提高了检测准确性,但这些算法常被视为“黑箱”,缺乏可解释性,这在需要透明决策的临床环境中是一个关键问题。此外,医疗数据中普遍存在的类别不平衡问题(如恶性病例少于良性病例)会导致模型偏向多数类,影响预测性能。因此,开发一种既具有高准确性又具备可解释性,同时能有效处理类别不平衡和混合数据类型(数值型和类别型)的乳腺癌预测模型成为迫切需求。
**2. 研究目的与创新**
本研究的目的是通过结合先进的梯度提升算法、强大的重采样方法与新颖的特征选择技术,提升乳腺癌预测的质量和可解释性。研究人员提出了一种基于SHAP(SHapley Additive exPlanations)值的中位数阈值特征选择方法,旨在在降低维度、提高模型性能的同时,提供清晰、模型感知的解释,这对于建立可信的临床人工智能至关重要。
**3. 主要技术方法**
研究人员采用了以下关键技术方法:1)**CatBoost算法**:一种针对类别型数据优化的梯度提升算法,能直接处理混合数据类型,减少预处理负担并防止过拟合;2)**SMOTEENN重采样技术**:结合合成少数类过采样(SMOTE)与编辑最近邻(ENN)欠采样,以平衡类别分布并清除噪声;3)**Optuna超参数优化框架**:利用贝叶斯优化和剪枝技术自动搜索最优超参数(如树深度、正则化系数、迭代次数);4)**基于SHAP值的中位数阈值特征选择**:计算每个特征的全局重要性(平均绝对SHAP值),以所有特征重要性得分的中位数为阈值,仅保留重要性超过中位数的特征。数据集来源于**SEER乳腺癌数据集**(美国国家癌症研究所SEER项目,2017年数据),经筛选后包含4024名患者样本,特征涵盖人口统计学、临床和病理学变量。
**4. 研究结果**
**4.1 特征选择前的模型性能**
在应用SMOTEENN处理后,使用Optuna优化的CatBoost模型在测试集上表现出色。最佳超参数为:树深度7、L2叶正则化系数1、迭代次数200,验证F1分数约0.9441。模型在良性(False)和恶性(True)类别上均获得0.95的精确率、召回率和F1分数,总体准确率为95.0%。结果表明SMOTEENN有效缓解了类别不平衡,模型未出现对多数类的偏倚。
**4.2 SHAP特征重要性分析与中位数阈值选择**
研究人员通过SHAP值分解每个预测的贡献,发现“生存月份”(Survival Months)是最具影响力的特征(重要性得分2.239),其次为“区域淋巴结阳性”(0.716)、“等级3”(Grade_3,0.374)和“年龄”(Age,0.382)。中位数阈值被设定为所有特征平均绝对SHAP值的中位数,最终保留了14个高影响力特征(如生存月份、区域淋巴结阳性、年龄、肿瘤大小、种族、婚姻状况、T分期、N分期、6期IIIC、分化程度、等级等),而去除了重要性低于中位数的特征。
**4.3 特征选择后的模型性能**
在仅使用14个选定特征重新训练CatBoost模型后,性能显著提升:准确率达到98.5%(高于基线95.0%),恶性类别精确率0.96、召回率0.96、F1分数0.96,良性类别精确率0.94、召回率0.95、F1分数0.95。宏平均和加权平均均接近0.95-0.96。这表明SHAP引导的特征选择不仅未损害性能,反而通过去除噪声和冗余特征增强了模型的泛化能力和判别力。
**4.4 与其他特征选择方法的比较**
研究人员将所提出的SHAP-中位数方法与皮尔逊相关(过滤法)和递归特征消除(RFE,包装法)进行了比较。皮尔逊相关准确率最低(93.1%),因其无法捕获非线性交互;RFE准确率为96.8%,但计算时间高达458.5秒;而SHAP-中位数方法在准确率(98.5%)和AUC-ROC(0.99)上均为最优,选择时间仅为65.3秒(比RFE快85%),保留了14个特征。该方法在准确性和计算效率之间取得了最佳平衡。
**5. 讨论与结论**
讨论部分指出,所提出的基于中位数阈值的SHAP特征选择方法具有多重优势:它提供了全局和局部可解释性,使临床医生能够理解每个预测背后的原因;通过去除不重要特征,降低了模型复杂性和过拟合风险;同时实现了性能提升(准确率从95%提升至98.5%)。该方法比传统过滤法(如相关性)更能捕获非线性关系,比包装法(如RFE)更具计算效率。此外,该框架具有灵活性,可推广到其他存在类别型数据和类别不平衡问题的医疗分类任务。SMOTEENN确保了少数类趋势的良好表示,而CatBoost对类别变量的自动处理简化了管道。
研究结论强调,本文提供了一个坚固且可解释的乳腺癌预测机器学习系统,优先考虑了性能和可解释性。SHAP-中位数特征选择技术是一种开放、直观的降维方法,为医疗人工智能应用打开了减少风险的可能。未来工作可致力于动态或实例级阈值设置,以及与其他基于XAI的特征选择框架的比较研究,以扩展其在其他领域的实际验证。该论文发表在《Franklin Open》上。