基于记忆增强的深度特征提取与时序依赖性预测的网络流量异常检测方法

《Computer Networks》:Memory-augmented deep feature extraction and temporal-dependencies prediction for network traffic anomaly detection

【字体: 大 中 小 】 时间:2026年01月30日 来源:Computer Networks 4.6

编辑推荐:

  网络流量异常检测模型MAFE-TDP通过融合Transformer特征提取、内存模块和时序预测网络,结合FIFO和KNN策略解决内存污染问题,并采用重构与预测误差融合评分提升检测效果,实验验证其在AUC-ROC和AUC-PR指标上优于现有方法。

  
王超|周平|曾久珍|马勇|张瑞琪
中国华南大学,中国衡阳常胜西路28号,421001

摘要

流量异常检测对网络安全至关重要。大多数现有的无监督检测模型基于重建和预测方法,这些方法在泛化能力和处理时间依赖性方面存在不足。尽管引入了记忆模块来缓解泛化能力较弱的问题,但仍然面临数据分布随时间漂移和记忆污染等挑战。为了解决这些问题,本文提出了一种新的无监督网络流量异常检测模型MAFE-TDP,该模型结合了基于Transformer的特征提取模块、记忆模块和基于预测的时间依赖性提取网络。通过引入FIFO记忆替换策略和KNN方法,增强了模型的泛化能力和对记忆污染的鲁棒性。所提出的异常评分方法融合了重建误差和预测误差,从而扩大了正常数据与异常数据之间的差距。在四个真实网络流量数据集上的评估结果表明,MAFE-TDP在AUC-ROC和AUC-PR指标方面优于现有的最先进基线方法。

引言

异常检测是一个在许多领域广泛研究的关键问题,如网络安全[1]、[2]、金融欺诈[3]和计算机视觉[4]、[5]。由于数据稀缺和手动标注的难度,监督式异常检测方法逐渐被无监督方法所取代。无监督方法似乎更适用,因为它们可以在没有标签的情况下学习特征,更适合检测网络流量异常[6]。
目前,大多数无监督异常检测方法主要基于预测或重建[7],并取得了积极的结果。然而,在处理网络流量数据时,它们也有一些局限性。一方面,基于预测的方法[8]、[9]使用历史数据来估计未来,并通过预测值与观测数据之间的差异来识别异常。现实世界的网络流量受到许多无法捕捉的外部因素的影响,这使得仅使用预测的异常检测模型的能力受到限制。另一方面,基于重建的方法通常遵循编码器-解码器架构,其中循环神经网络(RNN)和深度学习模型(如自动编码器(AE)被广泛使用。众所周知,RNN模型在建模长期依赖性方面效率较低[10]。基于AE的模型具有较低的计算开销的优势,但它们经常忽略数据中的时间依赖性,并且泛化能力较弱[11]。最近流行的Transformer模型通过注意力机制处理长期依赖性,并已应用于网络流量异常检测[12]。尽管前景广阔,但它仍然存在过拟合和泛化能力弱的问题。记忆模块[13]试图存储正常数据的动态趋势,以评估新数据的基线,有效缓解了Transformer模型的缺点。显然,对于记忆模块来说,动态性和清洁性至关重要。然而,在实际场景中,由于时间变化的特点,流量数据的分布可能会随时间漂移或变化。因此,记忆中的旧记录可能不再能代表当前趋势,使得保持良好的检测性能变得困难。缺乏防止异常样本进入记忆的机制也可能会导致记忆不清洁。不代表性和不清洁性都被称为记忆污染,这对基于重建的方法构成了挑战。此外,与基于预测的方法类似,仅使用重建误差作为识别标准也不是一种完全可靠的方法。
总而言之,现有的网络流量无监督异常检测方法面临以下问题:(1)单独使用基于预测的方法进行检测任务是不够的。(2)基于重建的方法存在过拟合、泛化能力弱和记忆污染的问题。(3)仅使用重建误差的识别指标也可能导致误报。
为了解决上述问题,我们提出了一种基于记忆增强特征提取和时间依赖性预测的无监督异常检测模型(称为MAFE-TDP)。所提出的MAFE-TDP结合了基于Transformer的特征提取模块、记忆模块和基于预测的时间依赖性提取网络。特征提取模块能够学习上下文关系并生成增强表示。记忆模块的作用是通过注意力机制和检索机制,在训练中使用正常输入来学习原型模型并提高泛化能力。为了防止记忆污染,我们采用了先进先出(FIFO)记忆替换策略,并通过K最近邻(KNN)方法来缓解记忆中异常样本的问题,在初始化阶段添加了第一个标记为异常的元素进行模拟。此外,引入了一种结合重建误差和预测误差的异常识别指标,考虑了时间和空间数据的变化。这种方法扩大了正常数据与异常数据之间的差异,从而有助于异常的识别。总之,本文的主要贡献如下:
  • 1.
    提出了基于Transformer的特征提取模块用于重建和基于时间依赖性的提取网络进行预测分析,以学习网络流量中的时空相关性。
  • 2.
    设计了嵌入FIFO记忆替换策略和KNN方法的记忆模块,以解决泛化能力弱的问题。该模块对记忆污染攻击表现出很强的抵抗力,确保了其鲁棒性。
  • 3.
    提出了一种结合重建误差和预测误差的融合识别指标,以扩大正常数据与异常数据之间的差距。
  • 4.
    MAFE-TDP在四个真实网络流量数据集上进行了广泛评估,其在AUC-ROC和AUC-PR指标方面优于现有的最先进基线方法。
  • 本文的其余部分结构如下。第2节回顾了相关工作。第3节详细介绍了MAFE-TDP,包括模型架构、特征提取模块、记忆模块、时间依赖性提取网络、训练目标和异常评分。第4节通过广泛的实验评估了MAFE-TDP的性能。第5节总结了研究成果并概述了未来的工作。

    相关工作

    相关研究

    许多文献对这一主题进行了研究。这里回顾了两种密切相关的分类:基于深度学习和基于记忆网络的异常检测。

    模型架构

    流入流量的网络流量多变量时间序列表示为Xt={x1,x2,,…,xt}∈Rdt其中第项为xi=(xi1,xi2,,…,xid)?这里,d表示每个项目的维度,?表示转置操作。每个特征可以是离散字符值或数值。所提出的MAFE-TDP框架包括特征提取模块、记忆模块和时间依赖性提取网络。其完整模型架构如图1所示。

    实验评估

    在本节中,我们通过广泛的实验评估了所提出的MAFE-TDP的有效性。首先介绍实验中使用的数据集、评估指标和超参数配置。然后,我们讨论了实验分析的主要结果,包括参数敏感性、性能比较、消融研究和记忆污染鲁棒性的评估。

    结论

    在这项研究中,我们介绍了用于网络流量异常检测的MAFE-TDP模型。该模型旨在通过结合基于Transformer的特征提取模块、记忆模块和时间依赖性预测网络,有效捕获网络流量数据中的复杂特征和时间动态。深度特征提取模块采用多层神经网络结构深入挖掘数据中的潜在模式。记忆模块保存并

    致谢

    本工作得到了湖南省自然科学基金(编号2025JJ50390)的支持。

    CRediT作者贡献声明

    王超:撰写——审稿与编辑,撰写——原始草稿,软件,方法论,概念化。周平:验证,调查,数据管理。曾久珍:撰写——审稿与编辑,软件,方法论,概念化。马勇:调查,数据管理。张瑞琪:调查,数据管理。

    利益冲突声明

    作者声明他们没有已知的竞争性财务利益或个人关系可能影响本文报告的工作。
    王超于2008年在中国长沙湖南师范大学获得电子信息工程学士学位,2019年在中国长沙湖南大学获得电路与系统博士学位。他在包括IEEE TITS、IEEE TIM和Elsevier Measurement在内的主要期刊上发表了20多篇论文。他目前的研究兴趣包括网络管理、信号处理和深度学习。
    相关新闻
    生物通微信公众号
    微信
    新浪微博
    • 搜索
    • 国际
    • 国内
    • 人物
    • 产业
    • 热点
    • 科普

    热点排行

      今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

      版权所有 生物通

      Copyright© eBiotrade.com, All Rights Reserved

      联系信箱:

      粤ICP备09063491号