编辑推荐:
异常检测是工业监控、网络安全和监控等动态实际应用中的关键组成部分,在这些应用中,数据分布会随时间持续演变。传统的异常检测方法通常在静态数据分布和独立任务假设下训练,难以适应非平稳环境,并且在面对顺序任务时会出现灾难性遗忘。为解决这些局限性,新兴的持续异常检测(
异常检测是工业监控、网络安全和监控等动态实际应用中的关键组成部分,在这些应用中,数据分布会随时间持续演变。传统的异常检测方法通常在静态数据分布和独立任务假设下训练,难以适应非平稳环境,并且在面对顺序任务时会出现灾难性遗忘。为解决这些局限性,新兴的持续异常检测(Continual Anomaly Detection, CAD)领域整合了持续学习(Continual Learning)的原理,使模型能够从新数据中增量学习,同时保留先前任务的知识。本综述对CAD领域的最新进展进行了全面概述,首先对问题及其评估指标进行了形式化定义。研究人员沿三个关键维度对现有方法进行了系统分类和分析:学习设置、异常检测方法和持续学习策略。综述重点介绍了针对CAD定制的突出技术、基准数据集和评估指标,并聚焦于工业检测、网络安全、监控、环境监测和医学影像等应用。最后,综述指出了亟待解决的开放挑战,例如处理极端类别不平衡、确保内存和计算的可扩展性、提高可解释性,以及将CAD扩展到多模态设置。通过综合近期进展并勾勒未来研究方向,本综述旨在为致力于构建稳健、自适应且可部署的异常检测系统的研究人员和从业者提供基础性资源。
主体总结如下:
本文献对持续异常检测(CAD)领域进行了全面综述。CAD位于异常检测与持续学习两个基础研究领域的交叉点。异常检测旨在识别数据集中与大多数数据分布不一致的样本,而持续学习则使模型能够从连续到达的任务中增量学习,同时克服灾难性遗忘。CAD处理的是非平稳环境下的异常检测问题,其中数据按任务序列组织,每个任务可能具有不同的正常与异常概念。传统异常检测方法假设固定的正常性概念,而流数据挖掘方法主要关注当前数据分布上的检测性能,均不适用于任务不断变化的场景。CAD面临的挑战包括非平稳性、灾难性遗忘、可塑性、稳定性以及极端数据不平衡。
在应用背景部分,综述讨论了工业、网络安全、物联网、监控、环境监测和医疗领域中的CAD应用。工业环境中产品线顺序引入,生产过程动态变化;网络安全中网络流量分布随正常行为变化和新攻击出现而演变;物联网设备行为和环境因素不断变化;监控视频中的正常活动模式依赖于环境;环境系统受季节周期和气候趋势影响;医疗数据流具有动态和非平稳特性。这些领域都需要模型能够持续适应新数据并保留旧知识。
在问题形式化部分,综述给出了CAD的基本表述。数据空间中的每个任务包含正常样本集、异常样本集和未标记样本集。CAD属于域增量持续学习问题,因为标签空间(正常与异常)在每个任务中保持一致。学习者按顺序暴露于任务序列,训练数据增量到达,任务身份在训练时可能可用(任务感知)或不可用(任务无关),但推理时任务身份均不可用。CAD的目标是训练检测器,使得测试样本在至少一个任务中被视为正常时被判定为正常,否则为异常。特征级变体称为异常定位,在视觉异常检测中表现为对每个像素赋予正常或异常标签。
关于评估指标,综述首先列出了基础指标:准确率、精确率、召回率、F1分数、AUROC、AUPRC和AUPRO,其中AUPRO适用于图像异常定位。由于CAD的持续特性,还需要评估知识保留能力。综述引入了性能矩阵的概念,其中条目表示方法在任务上训练后在任务测试集上的某异常检测性能得分。基于该矩阵定义了平均性能、反向迁移(又称平均遗忘)和正向迁移,并进一步提出增量平均性能、增量反向迁移和增量正向迁移,以更全面捕捉整个任务流上的性能动态。
综述提出了一个三维分类法。第一维是CAD设置,包括监督持续异常检测(提供正常和异常标签)、半监督持续异常检测(提供少量标签和大量未标记数据)、一类持续异常检测(仅提供正常数据)以及无监督持续异常检测(提供无标签数据,可能包含少量异常)。第二维是异常检测方法,包括距离基、重建误差基和分类基三类,此外还有不严格遵循单一原理的不可知方法。第三维是持续学习技术,包括正则化、重放、基于优化、基于表示和基于架构的方法。
在CAD方法部分,综述对现有方法按异常检测方法和持续学习技术进行了分组描述。初步方法包括简单重训练、直接将持续学习技术用于异常检测、随机重放加静态检测器、评估标准分类持续学习方法用于欺诈检测等,这些工作暴露了非专用框架的局限性。
重建基异常检测方法中,使用重放技术的方法如EGR(通过生成重放训练VAE)、GenDeX(使用膨胀卷积VAE检测多变量时间序列异常)和VLAD(无监督任务无关,带变化点检测机制)。使用架构技术的方法如DER(为每个任务学习专家,包含可学习提示和适配器)。使用正则化技术的方法如RTSD(反向师生蒸馏,结合池化蒸馏项)和CFRDC(特征重建网络,带重建损失、蒸馏损失和对比损失)。使用优化技术的方法包括IUF(基于SVD的梯度投影)、IPT-GPD(实例感知提示调优和梯度感知参数解耦)和CDAD(基于条件扩散模型,采用迭代SVD)。
距离基异常检测方法中,使用重放技术的方法包括DNE(为每个任务建模高斯分布,用马氏距离打分)、DNE-TS(适应时间序列)、GCR(几何一致路由的多专家框架)、MECAD(固定数量专家,基于余弦相似度分配任务)、CADIC(统一重放内存,核心集采样)以及用于医学图像的PCCL(预训练编码器提取补丁嵌入,存入任务特定特征重放)。使用表示技术的方法包括ConCord(跨条件混合特征对比)、CLVS和RVAD(视频异常检测,更新正常特征集)。
分类基异常检测方法中,使用重放技术的方法包括SSF(分离未变化与漂移模式)、SPIDER(半监督,梯度投影内存)、DT(混合数字孪生,主动学习重放缓冲和权重合并正则化)、ECBRS(水库采样策略处理类不平衡)和OCLADS(设备-边缘协作,不确定性样本选择)。使用架构技术的方法如ADCT(任务特定适配器加冻结预训练编码器)和CILAR-Net(类增量学习,使用ViT提取时空特征和GRU建模时间动态)。
不可知异常检测方法中,使用重放技术的方法包括WATCHCL(任务变化检测算法嵌入经验重放框架)、ColRep(多节点协同重放,双平衡重放缓冲区)和CITADEL(PCA降维、t-SNE映射、掩码自编码器和层次记忆缓冲区)。使用表示技术的方法包括ReplayCAD(冻结潜在扩散模型生成先前任务样本)和SCALE(压缩重放加超分辨率模块)。
在讨论部分,综述指出AD方法与CL技术的组合分布极不平衡。距离基和重建基方法因能在弱监督下运行而最常被采用,重放和表示策略主导CL维度。距离/重建加重放/表示的组合占大多数,因为互补性质提供稳定异常评分并减轻遗忘,但同时承袭了内存使用和表示刚性的限制。分类基AD和优化/正则化CL组合稀缺,表明存在实际不兼容性。整体观察表明,方法偏好受内存占用、漂移鲁棒性和可扩展性等务实权衡驱动。
在数据集和基准部分,综述描述了标准分类数据集如MNIST和CIFAR被改造为many-vs-one和many-vs-many任务流。工业领域使用MVTec AD和VisA基准,通常每个任务分配一个类别。ContinualAD数据集包含30个类别,提供了大规模基准和三个评估场景。pyCLAD框架提供了统一实现。监控领域新数据集由11个任务组成,UCSD被适配为两任务序列。综述指出当前数据集缺乏任务间相似性的显式度量,且任务序列通常较短,不能反映真实长期学习场景。
在开放挑战和未来方向部分,综述强调了重放策略需要意识到异常的重放策略和自适应内存分配;可扩展性方面,重放和渐进式架构可能随任务增长而不可行;基准需要多维度评估,包括效率、内存和适应速度;可解释性方面,需要任务感知解释方法和记忆归因技术;指标方面应包含性能波动和适应速度的度量;多模态场景需要动态模态集成和跨模态表示学习,处理缺失模态和跨模态遗忘。这些挑战共同指向构建可扩展、高效、可解释且可部署的CAD系统。