《Applied Sciences》:Chaos-Driven Evolutionary Optimization of a Hybrid Machine Learning Model for Accurate Heart Disease Prediction
编辑推荐:
在本文中,提出了一种混合机器学习方法用于精确预测心脏病。特征被分为数值型和类别型,分别由深度神经网络(DNN)和CatBoost独立提取,然后通过逻辑回归融合以产生输出;同时,采用改进的混沌进化算法(CEO)优化超参数,并引入自适应混沌扰动和重启机制以增强全局
在本文中,提出了一种混合机器学习方法用于精确预测心脏病。特征被分为数值型和类别型,分别由深度神经网络(DNN)和CatBoost独立提取,然后通过逻辑回归融合以产生输出;同时,采用改进的混沌进化算法(CEO)优化超参数,并引入自适应混沌扰动和重启机制以增强全局优化能力。这些组件的集成促进了混合模型——称为CEO增强混合CatBoost与深度学习模型(CEO-HCDLM)的成功开发,用于有效的心脏病分类。为了评估模型的稳定性和泛化能力,使用Kaggle心脏病数据集进行了多种子验证、高斯噪声注入和跨数据集验证。结果表明,该方法在支持心血管风险评估决策方面具有效性和实用性。
**论文解读:混沌驱动进化优化混合机器学习模型用于精确心脏病预测**
**1. 研究背景与问题**
心血管疾病是全球范围内导致死亡的主要原因之一,构成了21世纪重大的公共卫生挑战。据世界卫生组织(WHO)估计,2015年约有1770万人死于心血管疾病,占全球总死亡人数的31%,其中冠心病死亡人数约740万,且疾病负担主要集中在低收入和中等收入国家。在中国,先天性心脏病(CHD)的管理和治疗面临缺乏专业心脏病学团队的障碍,且产前筛查的覆盖率和诊断准确性存在显著地区差异,给医疗系统带来了沉重负担。近年来,机器学习技术在心脏风险预测和诊断支持方面展现出巨大潜力,能够自动从高维、非线性和异质性临床数据中识别有意义的模式,相比传统统计模型往往具有更高的预测准确性和泛化性能。然而,现有研究存在明显不足:单一树模型(如CatBoost、XGBoost)对连续临床指标的非线性拟合能力有限;普通深度网络无法原生处理非数值型类别特征;未优化的混合结构容易陷入局部最优,导致跨数据集鲁棒性差,且在噪声样本下性能不稳定。此外,真实临床数据集常包含数百到数千个变量,存在高维稀疏问题,容易引发“维数灾难”,导致过拟合和计算复杂度增加。因此,亟需开发一种既能处理混合型特征(类别和数值)又能保持强鲁棒性的心脏风险识别模型,即使在数据量有限和特征可用性受限的条件下也能实现高预测精度。本论文发表在《Applied Sciences》上,旨在通过混沌驱动进化优化方法解决上述挑战。
**2. 主要关键技术方法**
研究人员构建了CEO-HCDLM框架,其核心方法包括:(1)**特征分离与独立提取**:将特征分为类别型和数值型,分别输入CatBoost和深度神经网络(DNN)进行独立表征学习;(2)**堆叠融合**:通过逻辑回归(Logistic Regression)层将两个模型的输出概率进行线性融合,并应用Sigmoid函数得到最终预测;(3)**混沌进化优化(CEO)**:基于二维离散忆阻映射的混沌动力学,结合差分进化框架中的交叉和变异操作,自动调整7个关键超参数,以最小化验证集上的负AUC(曲线下面积)为目标;(4)**自适应混沌扰动与重启机制**:利用Logistic映射生成混沌序列,动态调整学习率和dropout率,当检测到训练停滞时触发重启,避免陷入局部最优。模型评估使用了Kaggle心脏病数据集(918个样本,11个特征)和UCI Cleveland心脏病数据集(303个样本,14个特征),采用8:1:1划分训练/验证/测试集,并进行11次多种子重复实验(种子40-50)、高斯噪声注入和双向跨数据集验证。
**3. 研究结果**
**3.1 数据库与实验设置**
研究人员使用了两个公开数据集:Kaggle心脏病数据集(918个样本,包含人口统计学、生命体征、症状和潜在风险因素)和UCI Cleveland心脏病数据集(303个样本,14个关键特征)。为评估模型稳定性和泛化能力,实施了11次随机种子重复实验、高斯噪声注入(对30%数值特征添加标准差为0.1的噪声)以及双向跨数据集测试(即在一个数据集上训练并优化,直接在另一个数据集上评估)。
**3.2 模拟实验结果**
通过消融实验对比了以下模型:无CEO优化的CatBoost-DNN模型、基于Successive Halving优化算法(SH-Hybrid)的CatBoost-DNN模型、基于Tree-structured Parzen Estimator优化算法(TPE-Hybrid)的CatBoost-DNN模型,以及所提出的CEO-HCDLM。结果显示:CEO-HCDLM在多个评估指标上表现最优,在Kaggle数据集上平均AUC达96.40%,精确率92.52%,F1-score 94.24%,PR-AUC 96.67%。Wilcoxon秩和检验证实,CEO优化算法的性能显著优于TPE优化算法。在精确率和召回率分析中,CEO-HCDLM同样展现出稳健的平衡能力,有效识别判别性模式,即便在不平衡数据集上也能保持强鲁棒性。引入高斯噪声后,模型与UCI数据集之间的差异始终保持在1%以内,表明混沌随机重启机制有效防止了模型收敛到局部最优,增强了泛化能力和对高噪声数据的适应性。
**3.3 讨论总结**
实验结果表明,所提方法在多个指标上表现良好,同时在训练和测试中保持高精确率,并实现了假阳性率和召回率的同步改善,表明其能有效减少误报同时保持高预测精度。CEO-HCDLM通过分叉设计分别处理类别和数值特征,利用逻辑回归提供清晰的线性权重,增强了模型在临床分析中的可解释性,并降低了小规模医疗数据集上因非线性导致的过拟合风险。然而,该研究存在局限性:所有评估仅限于公开基准数据,缺乏来自真实医疗机构的独立外部临床队列验证;现有预处理方法难以完全消除数据分布偏差和样本不平衡问题;部分与异质性指标相关的低效特征未被充分过滤,限制了模型预测稳定性和泛化能力的进一步提升。
**3.4 研究结论翻译**
本研究探讨了CEO-HCDLM算法在心脏病预测中的有效性。在预处理阶段,应用缺失值插补和归一化以提升分类模型性能。为有效提取不同特征类型,将类别特征输入CatBoost,数值特征由深度神经网络(DNN)处理,最后采用逻辑回归层结合Sigmoid激活函数作为堆叠机制高效整合输出。改进的CEO算法通过识别和利用底层参数演化模式来适应不同数据集,从而加速模型整体收敛速度而不牺牲全局最优性。尽管所提混合方法在公共心脏病数据集上实现了稳定的预测性能,但所有评估均局限于开源基准数据,缺乏来自真实医疗机构的独立外部临床队列验证。未来研究应优先将该方法扩展到更广泛的心血管疾病类型,并评估其在真实临床场景中的实际可行性。此外,本方法未探索更复杂的非线性融合策略,因此未来研究可聚焦于异质性特征的深度交互。总体而言,本研究强调了先进机器学习方法在心血管疾病预测和管理领域的重大变革潜力。