针对受控分布偏移下的高效批量模型适配的集群特定局部漂移检测方法

《Expert Systems with Applications》：Cluster-Specific Localized Drift Detection for Efficient Batch Model Adaptation under Controlled Distribution Shift

　　

伊格纳西奥·卡布雷拉·马丁|马塞洛·特罗瓦蒂|阿尔马斯·拜马甘贝托夫|尼科拉奥斯·波拉蒂迪斯

摘要

在动态环境中部署的机器学习系统往往需要在非平稳数据分布下运行，而受控的数据分布变化会逐渐降低其预测性能。然而，许多常用的表格型基准数据集缺乏明确的时间结构，这限制了对数据漂移适应方法的可重复性评估。本文提出了一种基于聚类的数据分布变化模拟框架，通过在对特征空间进行结构化扰动，将静态表格数据集转化为可控的动态数据流。

利用该框架，对六种适应策略进行了系统性评估：静态学习、滑动窗口重训练、全局ADWIN重训练、聚类局部ADWIN重训练、随机子空间漂移检测以及特征分区漂移检测。实验在涵盖分类和回归任务的五个基准数据集上进行，使用了包括线性模型、k最近邻算法、树集成模型、提升算法以及自适应在线学习器在内的多种预测模型。

实验结果表明，滑动窗口重训练通常能获得最强的预测性能，但由于需要频繁进行全局更新，因此会带来较高的计算成本和标注成本。全局ADWIN重训练则在保持较高准确率的同时降低了更新频率。相比之下，所提出的聚类局部适应策略在分类和回归任务中都能较好地平衡预测性能与计算效率。在存在结构化数据分布变化的场景下，该方法可将重训练工作量减少75%，同时仍能保持与持续自适应基线相当的预测性能。对于非线性回归模型，聚类局部适应策略在大幅降低更新频率和训练成本的同时，仍能保持良好的R²性能。

所提出的框架为在静态表格数据集上评估受控数据分布变化下的适应能力提供了可重复的基准，并证明在分布变化条件多样的情况下，基于聚类的漂移/变化检测方法是比统一重训练策略更高效且有效的替代方案。