动态集成选择技术在回归模型中的系统综述：方法、应用与未来挑战

为解决静态集成方法在动态异构数据环境中的局限性，研究人员系统综述了2015-2024年间21项动态集成选择（DES）技术在回归任务中的应用。研究识别出动态选择（DS）、动态加权（DW）、混合动态加权选择（DWS）和优化方法四类策略，证实其在噪声、数据不平衡等场景下显著提升模型性能（如RMSE、R2），但存在计算成本高、评估标准不统一等挑战，为深度学习集成和分布式系统优化提供新方向。

　　

在机器学习领域，集成学习（Ensemble Learning）通过组合多个基模型显著提升了预测性能，成为应对复杂数据的利器。然而，传统静态集成方法如Bagging和Boosting存在一个致命缺陷：它们假设所有数据都服从同一分布，无法适应现实世界中动态变化的数据环境。当面对医疗健康监测中的突发性生理指标波动、金融市场的剧烈震荡或能源需求的时间依赖性变化时，静态集成的"一刀切"策略往往捉襟见肘。这种局限性催生了动态集成选择（Dynamic Ensemble Selection， DES）技术的兴起——它能够像经验丰富的指挥官一样，针对每个输入数据点实时调遣最擅长的模型"特种兵"。

巴西伯南布哥大学（UPE）的Carvalho, Halcyon Davys P. de团队在《Expert Systems with Applications》发表的研究，首次对DES在回归任务中的应用进行了系统梳理。这项研究采用系统文献综述（Systematic Literature Review， SLR）方法，分析了2015-2024年间21项实证研究，涵盖医疗健康、金融等6大领域的144个数据集。研究团队创新性地将DES技术划分为动态选择（Dynamic Selection， DS）、动态加权（Dynamic Weighting， DW）、动态加权选择（Dynamic Weighted Selection， DWS）和优化方法四大类，并构建了完整的评估框架。

关键技术方法包括：系统文献综述（SLR）的PRISMA流程，对Scopus、Web of Science等6大数据库的检索策略，以及基于预定义PICOS标准的文献筛选；采用定量统计方法分析59种模型和26项评估指标（如RMSE、MAE、R²）的分布规律；通过主题编码识别DES在医疗时间序列、金融风险评估等场景的应用模式。

背景
研究阐明了传统静态集成的三大缺陷：无法应对概念漂移（Concept Drift）、忽略数据局部特性、缺乏动态调整机制。通过引述Dietterich（2000）和Zhou（2012）的奠基性工作，指出DES通过"区域竞争力"（Region of Competence， RoC）实现局部适应的核心机制，其中k近邻（kNN）是界定RoC的主流方法。

研究结果
模型与指标
分析发现59种基模型呈现算法多样性，从决策树到支持向量机（SVM）均有涉及。评估指标中，RMSE（均方根误差）使用率达71%，R²（决定系数）占62%，MAE（平均绝对误差）占52%。值得注意的是，医疗健康领域更倾向使用相对误差指标，而金融领域偏好分位数损失函数。

技术分类
DS策略通过局部性能评估选择单一最优模型，在数据不平衡场景表现突出；DW策略基于模型权重动态调整，对时间序列预测效果显著；DWS则融合两者优势，在能源需求预测中实现MAE降低18.7%；优化方法（如遗传算法）虽计算成本高，但在高维金融数据中展现独特优势。

应用场景
医疗健康领域（占研究数的33%）主要应用于生理参数预测，采用DW策略处理设备噪声；金融风险评估（24%）偏好DWS应对市场突变；能源预测（19%）利用优化方法处理多源异构数据。

结论与讨论
研究揭示了DES在回归任务中的三大价值：提升模型适应性（平均RMSE改善23.1%）、增强鲁棒性（噪声数据下误差波动减少37%）、支持增量学习（概念漂移检测延迟降低40%）。但存在两大挑战：计算复杂度平均增加4.8倍，且缺乏统一的局部竞争力评估标准。

该研究的里程碑意义在于：首次建立了回归任务DES技术的分类学框架，为跨领域应用提供方法论指导；提出的"动态适应性-计算效率"权衡准则，为后续研究指明方向。作者特别强调，DES与深度学习（如LSTM集成）的结合、边缘计算环境下的分布式DES实现，将成为突破现有瓶颈的关键路径。这些发现不仅对医疗实时监测系统、智能投顾等应用具有直接参考价值，也为机器学习自适应系统的理论发展提供了实证基础。