综述：安全应用中的概念漂移处理：从单模数据到多模数据的综述

《Neurocomputing》：Concept drift handling in security applications: A survey across unimodal to multimodal data

　　程丽|王晓丽|宋立鹏 中国山东省威海市山东大学空天科学与工程学院，邮编264209

摘要
概念漂移对应用于安全领域的机器学习模型构成了持续性的挑战，不断变化的攻击手段、有限的标签以及数据模态的多样化使得模型难以实现有效的适应。现有的综述大多侧重于通用或单模态场景，未能从安全角度统一阐述概念漂移在结构化数据、文本数据、视觉数据及多模态数据中的产生机制、传播方式及应对策略。为填补这一空白，本综述提出了一种统一的跨模态分类框架，用于处理概念漂移，该框架将成熟的单模态方法与新兴的多模态场景相结合，系统分析了在对抗性环境、标签匮乏及类别不平衡的安全条件下概念漂移的表现形式。基于以往的多模态学习研究成果，我们提出了多模态漂移模式的统一分类体系，包括同步漂移、异步漂移和关联漂移。除了总结现有研究外，我们还构建了针对结构化数据和视觉数据的漂移演化基准，并通过对比实验表明，提升漂移适应能力往往会导致灾难性遗忘风险的增加。通过综合综述与实证分析，我们指出了当前方法在对抗鲁棒性、标签高效利用以及跨模态协同方面的关键局限，并提出了发展具有强大抗漂移能力的安全系统的未来方向。

引言
机器学习已成为现代安全系统的核心组成部分，应用于入侵检测、恶意软件检测、垃圾邮件过滤以及人脸识别等领域[1] [2] [3] [4] [5]。然而，这些系统通常是在训练数据和部署数据分布相同的假设下进行训练的[6] [7] [8] [9]。但在安全环境中，由于用户行为、系统配置以及攻击策略会不断变化，这一假设常常不成立。由此导致的数据分布随时间发生的变化，即概念漂移[10] [11]，会严重降低检测的准确性和稳定性。与普通非静态场景相比，由安全威胁引发的概念漂移更具挑战性，因为这类漂移往往是由那些主动探测、规避并操纵已部署模型的敌对势力所导致的[12] [13] [14]。

如图1所示，2020年至2024年间，关于安全应用中概念漂移的研究迅速增长。相关论文数量从2020年的173篇增至2024年的345篇，累计增长了99.4%，年均增长率达18.8%。在所有关于概念漂移的文献中，聚焦安全领域的比例从17.8%稳步上升至24.6%，这凸显了在安全语境下处理概念漂移的重要性。这一趋势既反映了安全威胁的持续演变，也体现了自适应防御系统日益广泛的应用。同时，它也表明概念漂移已成为一个需要系统性研究的重大问题。图1展示了安全应用领域概念漂移研究的整体发表趋势。

为系统总结近期在安全应用中处理概念漂移方面的进展，我们从IEEE Xplore、ACM数字图书馆、ScienceDirect和SpringerLink等数据库中检索了相关研究，具体如表1所示。搜索范围限定为过去五年发表在高影响力期刊及重要会议上的论文。初始查询使用了包括“概念漂移”“数据漂移”“分布偏移”“漂移检测”“漂移适应”等与概念漂移相关的术语，以及“安全”“入侵检测”“恶意软件”“对抗性”“威胁检测”等安全相关关键词。经过标题/摘要筛选、质量过滤和全文审查后，最终纳入了120篇研究。随后，这些研究根据数据模态（结构化数据流、文本数据、图像/视频数据以及多模态数据）进行了分类，以便进行如图2所示的描述性分析。在分类阶段，仅使用了“多模态”“multi-modal”和“cross-modal”等相关术语，而这些术语并未包含在最初的强制检索查询中。图2总结了本综述所涵盖的120篇研究中所使用的不同数据模态。在所有被研究的研究中，结构化数据流占比48.3%，文本数据占18.3%，图像/视频数据占21.7%，多模态数据占11.7%。

基于上述分析以及现有的概念漂移综述[1] [10] [11] [15] [16] [17] [18] [19] [20] [21] [22]，我们确定了推动本次综述开展的三个关键局限性。表2总结了这些局限性、相应的分析缺口及其对面向安全的漂移处理工作的影响。

基于以上分析，本综述从模态感知的角度系统地回顾了安全应用中概念漂移的处理方法。通过超越通用场景的分析，我们旨在揭示漂移机制、算法选择以及部署约束之间的相互作用。本文的主要贡献包括方法论见解和实际应用价值，具体如下：
(1)建立了用于处理概念漂移的系统性跨模态分类框架。我们提出了一个统一的分类体系，根据学习流程中的操作阶段（如表示层适配与决策层适配）对不同数据模态下的处理方法进行分类，而非按算法类型分组。该框架揭示了那些因单一机制分类而被忽视的跨模态共性，同时也为在计算资源限制和对抗风险等安全约束条件下选择合适的漂移处理策略提供了指导。
(2)系统分析了不同数据模态下的概念漂移机制。我们区分了表面上的统计现象与背后的安全驱动因素（如对抗性、标签匮乏等）。对于多模态环境，我们基于以往多模态学习研究中的成果[26] [27] [28]，提出了同步漂移、异步漂移和关联漂移的分类体系。这一分类体系阐明了当攻击者操纵跨模态依赖关系时，仅对单个模态进行监控为何可能失效，同时也为在传统单模态场景之外分析概念漂移提供了理论基础。
(3)构建了漂移演化基准并进行对比分析。我们设计了受控的漂移演化基准，用于模拟结构化数据流中的分布演化以及视觉数据流中数据污染程度的逐渐加重。这些基准是基于第7.2.1节所述的协议，利用公开可用的数据集构建的。此外，我们还在一个公开可访问的存储库中发布了完整的数据集和构建方案，详细内容见第7.4节。通过对比实验，我们发现了一个根本性的矛盾：提升漂移适应能力往往要以遭受灾难性遗忘为沉重代价。这一基准为评估未来具有漂移适应能力的系统的长期稳定性提供了具体的依据。
(4)提出了推动因果导向且可部署的适配方法的研究议程。除了总结现有研究成果外，我们还指出了在标签高效利用和跨模态协同方面的关键挑战。我们倡导从单纯的关联式适配转向因果建模和不变性建模。此外，本文还提出了开发能够在面对短暂的、由攻击引发的干扰时依然具备强大鲁棒性的安全系统的可行路径。

在本综述中，所提出的分类体系旨在系统地整理、分析和比较现有文献，而第7节中的实验则对综述中发现的不足之处进行了有限度的实证分析。图3展示了本综述的整体框架。本文的其余部分结构如下：第2节对概念漂移进行了正式定义，并探讨了其在不同数据模态下的特殊安全挑战，包括3.1节的概念漂移检测，其中又细分为3.1.1节的结构化数据流、3.1.2节文本数据、3.1.3节视觉数据以及3.1.4节跨模态融合；3.2节则回顾了结构化数据、文本数据和视觉数据对应的概念漂移处理方法，反映了各单模态研究目前的成熟度。第4节聚焦于多模态漂移，包括同步漂移、异步漂移和关联漂移。第5节探讨了安全语境下的可解释性问题。第6节介绍数据集和评估指标，第7节则对数据集、评估指标及对比实验进行了总结。第8节对整个综述进行总结，并提出了未来的研究方向。

概念漂移的定义与分类
机器学习模型性能下降的主要原因是数据分布的非平稳性。考虑在一个数据流上进行的监督学习任务，其中 为维度为 的特征向量， 为对应的时间 时的标签。

定义1 漂移的概念定义[11]：当出现概念漂移时，数据生成分布会从 变为 。在早期分布上训练得到的模型可能会仍然依赖过时的假设，从而导致性能下降。

单模态数据的概念漂移处理
本节回顾了在检测-适应框架下处理单模态数据概念漂移的方法，这些数据包括结构化数据流、文本数据和视觉数据。3节“单模态数据的概念漂移处理”和4节“多模态数据中的概念漂移处理”构成了本综述的核心，分别涵盖了单模态和多模态环境下的概念漂移处理方法。本综述还包括一些重要的实证性贡献，比如漂移演化基准以及针对代表性方法的对比评估。

多模态数据中的概念漂移处理
与单模态场景不同，多模态数据中的概念漂移不仅涉及各个模态内部的分布变化，还包括模态间关联性和可靠性的动态变化。传统的漂移检测器（如DDM、ADWIN）无法处理复杂的多模态漂移模式，因为它们仅能发出二元警报，缺乏判断漂移是源于特定模态、融合层还是模态间关联性的诊断能力[26]。因此，近期的研究…

安全应用中概念漂移的可解释性
在安全应用中，仅仅检测到概念漂移是不够的。安全分析人员需要明确的方法来区分无害的数据变化（如季节性流量波动）和恶意活动（如新的恶意软件变种）。

数据集与评估指标
本节介绍了用于概念漂移处理的 ???集和评估指标。我们选择了最具代表性的公开可用数据集，这些数据集按数据模态（结构化、文本和图像）进行了分类。评估体系注重漂移适应能力相关的指标，如恢复速度和先验准确率，以及资源效率指标。这些指标共同构成了评估概念漂移处理效果的综合基准。

实验范围与依据
本节体现了本项工作的核心实证贡献：即构建用于模拟分布演化和数据污染程度加剧的受控基准，以及在可量化的漂移场景下对代表性方法进行对比评估。尽管已有针对对抗性漂移的公共数据集（见表6），但它们往往缺乏关于攻击演化类型、强度和时间的详细标注，这限制了量化评估的深度。为了解决这一问题…

结论与未来方向
本文对安全应用中的概念漂移检测与处理方法进行了全面综述，涵盖了结构化数据流、文本数据和视觉数据。与通用型综述不同，我们系统分析了对抗性环境所带来的独特挑战，这些挑战包括攻击者的演化策略、数据模态的多样性以及可解释性的重要性。本综述的一个重要理论发现是…

CRediT作者贡献声明
程丽：撰写——初稿、验证、软件、研究、形式分析、数据整理。王晓丽：撰写——审阅与编辑。宋立鹏：撰写——审阅与编辑、指导、资金获取。

利益冲突声明
作者声明不存在任何可能影响本文研究结果的已知财务利益或个人关系。

致谢
本项目得到了中国国家重点研发计划的支持（项目编号2021YFC3320100）。程丽于2016年在中国南京邮电大学通信与信息工程学院获得通信工程学士学位，目前正在山东大学攻读博士学位。他的研究兴趣包括概念漂移适应、多模态学习以及安全应用中的对抗性机器学习。