关于TSLies(Time Series Anomalies)的最新进展:这是一个基于高效机器学习的异常检测框架

《Astronomy and Computing》:Advances on TSLies: Time Series AnomaLIES, an efficient machine learning based anomaly detection framework

【字体: 大 中 小 】 时间:2026年04月27日 来源:Astronomy and Computing 1.8

编辑推荐:

  安德烈亚·阿德莱菲奥|萨拉·库蒂尼|弗朗切斯科·隆戈|斯特凡诺·杰尔马尼|帕斯夸莱·卢布拉诺|里卡多·克鲁皮|西蒙妮·马尔德拉 意大利佩鲁贾国家核物理研究所 摘要 在科学和工业应用中,异常检测的时间序列分析是一项重要任务。当处理高容量、高维度和非平稳数据时,传统的统

  安德烈亚·阿德莱菲奥|萨拉·库蒂尼|弗朗切斯科·隆戈|斯特凡诺·杰尔马尼|帕斯夸莱·卢布拉诺|里卡多·克鲁皮|西蒙妮·马尔德拉
意大利佩鲁贾国家核物理研究所

摘要
在科学和工业应用中,异常检测的时间序列分析是一项重要任务。当处理高容量、高维度和非平稳数据时,传统的统计方法存在局限性。本论文描述了对TSLies(Time Series anomaLIES)框架的方法学改进,这是一个基于机器学习的Python工具包,用于检测时间数据中的异常事件。在我们的前期工作中,已将机器学习技术应用于费米伽马射线太空望远镜的反符合探测器(ACD)数据,通过引入概率建模技术解决了确定性神经网络方法的基本限制。改进后的框架现在包含了使用TensorFlow Probability进行模型预测不确定性量化的贝叶斯神经网络(BNN)实现。此外,我们通过作用于时间序列傅里叶变换的自定义损失函数,发展了谱域学习能力,使得模型能够实现频率依赖的精确建模。我们通过两个不同领域的应用来展示该框架的能力:继续分析费米ACD数据,以及应用于Intesa Sanpaolo的日常保险政策时间序列,证明了其跨领域的适用性。

引言
时间序列异常检测已成为多个科学和工业领域的基本任务,其中数据的复杂性和数量不断增加,往往超出了传统统计方法的处理能力。TSLies(Time Series anomaLIES)框架最初是为分析费米伽马射线太空望远镜反符合探测器(ACD)的粒子通量数据而开发的(Adelfio等人,2025年),它代表了一种基于机器学习的方法。在应用部分提供了关于ACD系统及本工作中使用的数据产品的详细描述。我们之前的工作(Adelfio等人,2025年)展示了该框架针对费米ACD系统的基本功能,使用前馈神经网络(FFNN)来模拟时间序列的预期背景行为,并采用FOCuS算法(Romano等人,2022年)来识别残差中的异常。背景模型通过环境参数相关性(包括航天器位置数据、磁场测量值和太阳活动指数)纳入了时间依赖性。通过这种方法,可以识别出许多与天体物理瞬变现象相关的异常,尤其是与地球大气层事件和太阳耀斑相关的事件。然而,之前的实现缺乏对模型背景预测不确定性的系统评估。

针对费米仪器的背景也开发了物理模型(Biltzinger等人,2020年;Fitzpatrick等人,2012年)。这些工作补充了数据驱动的时间序列异常检测方法,例如Crupi等人(2023年、2024年)在识别长期微弱天文高能瞬变现象方面的研究。然而,仅关注时间域建模可能无法捕捉到周期性结构和频率依赖模式,这对瞬变现象的检测至关重要(例如ACD中的粒子通量测量)。固定阈值触发系统无法适应变化噪声特性,导致在高噪声期间产生误报或在稳定条件下灵敏度降低。此外,框架中实现的有限神经网络架构限制了不同情景下的准确模型选择和性能优化。

本文通过方法学改进解决了这些限制,扩展了框架的应用范围,使其超越了天体物理领域。特别是,我们引入了基于贝叶斯神经网络的概率建模。需要注意的是,本研究中考虑的应用依赖于真实且之前未经特征化的数据集,这些数据集没有完整的、明确的真实值。因此,这些应用的目标不是提供精确度或召回率的确定定量评估,而是展示在现实条件下使用不同背景建模策略的数据驱动方法。在这个视角下,我们还展示了将FOCuS算法应用于Intesa Sanpaolo的保险政策订阅时间序列的情况,其中仅进行了基于残差的异常检测。这一用例旨在展示框架的灵活性以及异常检测步骤在不同领域的可移植性,而不是为了测试预测性能。

该软件包采用两步配置开发:
- 通过监督机器学习模型进行背景估计;
- 通过FOCuS算法进行异常识别。

背景估计步骤依赖于前馈神经网络(FFNN)和循环神经网络(RNN)(Bengio,2009年;LeCun等人,2015年;Goodfellow等人,2016年;Hornik等人,1989年),这些网络被训练用于学习时间序列与外部参数之间的映射。给定一对数据{(xi, yi)(其中xi是输入特征向量,yi是时间i的目标值),任务是估计y?i=f(xi),其中f是通过神经网络训练过程得出的数学函数。神经网络的训练和优化通过最小化损失函数来完成,通常使用均方误差(MSE)(Ciampiconi等人,2023年)或平均绝对误差(MAE)(LMAE)。一旦背景模型建立完成,残差(yi?y?i)就用FOCuS(Functional Online CuSUM)算法进行分析(Romano等人,2022年;Ward等人,2022年、2023年、2024年)。该方法基于累积统计量S(s,N)=∑i=s+1NH(xi,μ0),其中s是候选变化点,N是当前时间,H(x,μ)是定义如下得分函数:H(x,μ)=?logf(x;μ)?μ,μ是截至时间N的数据均值,f是数据的概率密度函数。当S(s,N)超过预定义阈值时,相应点被标记为异常。

根据Wilks定理(Wilks,1938年),在零假设下,量2S(t)渐进地遵循自由度为一的卡方分布(χ^2)。因此,统计显著性约为2S(t)。这样的框架可以直接应用于各种时间序列数据集,其中背景行为可以通过一些已知的数据生成引擎信息来建模。

为了处理数据集中的特定情况,需要了一些额外的功能:
- **不确定性量化**:使用FFNN的确定性神经网络方法提供点预测,但没有置信区间或不确定性估计,限制了模型适应变化噪声条件的能力。
- **时间域限制**:仅在时间域内操作的模型难以捕捉到包含时间序列背景行为关键信息的频率依赖模式和周期结构。
- **架构限制**:实施的神经网络架构数量限制了可采用的方法选择。比较和优化不同模型有助于为特定数据集选择最佳架构。
本文通过实现贝叶斯神经网络进行不确定性量化,解决了这些限制;通过自定义损失函数实现了谱域学习,以支持频率依赖的建模。所有新功能都在保持代码灵活性的同时得到实现。

时间序列异常检测中的不确定性量化
在时间序列建模和异常识别过程中,不确定性可能来自多种来源,包括测量噪声、知识局限性以及数据的固有变异性。根据不确定性的性质,我们可以区分两种主要类型:
- **随机不确定性**:这种不确定性也称为随机不确定性,与数据中的固有随机性或噪声有关。由于其特性,收集更多数据也无法消除不确定性。
- **谱域分析**:在时间域内操作的神经网络在将向量输入映射到标量输出方面非常高效,但在学习对估计周期性变化至关重要的广泛频率依赖模式时可能会失败(例如费米卫星的情况,详见第4节)。更常见的损失函数(如均方误差(MSE)或平均绝对误差(MAE)完全在时间域内操作,仅最小化观测值之间的点差异。

**数据集描述与预处理**
费米伽马射线太空望远镜是一个配备有两个主要仪器(大面积望远镜LAT和伽马射线暴监测器GBM)的空间观测站(Atwood等人,2009年)。LAT周围有反符合探测器(ACD),用于屏蔽与伽马射线不同的带电粒子背景事件(Atwood等人,2009年)。ACD由覆盖LAT五个侧面的塑料闪烁体瓷砖阵列组成。ACD读出记录每个闪烁体的数据。

**应用于Intesa Sanpaolo保险数据**
我们将TSLies方法应用于银行业,具体来说是Intesa Sanpaolo的数据。数据集包含2016年至2024年期间各种保险产品的每日订阅时间序列(已匿名处理),目的是识别客户行为和保单订阅中的异常模式。这是一个简化的数据集,没有外部参数可用于建模时间序列的背景行为,专门用于展示该框架的用途。

**结论**
本文提出的方法和架构发展标志着TSLies框架的重要进步,使其成为一个更通用、更具适应性的时间序列异常检测系统,采用机器学习和高效算法来识别数据变化。通过贝叶斯神经网络引入的概率建模扩展了软件中可用的确定性架构类型。目的是实现具有不确定性意识的推理。

**缩写说明**
• ACD:反符合探测器
• AI:人工智能
• BNN:贝叶斯神经网络
• CuSUM:累积求和
• DL:深度学习
• E.P.:爱因斯坦探针
• FFNN:前馈神经网络
• FOCuS:功能性在线累积求和
• GBM:伽马射线暴监测器
• GRB:伽马射线暴
• LAT:大面积望远镜
• MAE:平均绝对误差
• ML:机器学习
• MSE:均方误差
• NN:神经网络
• RNN:循环神经网络
• ROOT:物理数据分析框架
• XRS:X射线传感器

**CRediT作者贡献声明**
安德烈亚·阿德莱菲奥:可视化、验证、监督、软件、资源、方法论、调查、形式分析、数据管理、概念化。
萨拉·库蒂尼:形式分析、数据管理、概念化。
弗朗切斯科·隆戈:概念化。
斯特凡诺·杰尔马尼:概念化。
帕斯夸莱·卢布拉诺:资金获取、概念化。
里卡多·克鲁皮:概念化。
西蒙妮·马尔德拉:概念化。

**利益冲突声明**
作者声明没有已知的可能会影响本文报告工作的财务利益或个人关系。

**致谢**
本文所述工作是在ICSC项目(Centro Nazionale di Ricerca in High Performance Computing, Big Data and Quantum Computing)的Spoke 0和Spoke 3框架内完成的,该项目由NextGenerationEU欧洲计划通过意大利大学和研究部(PNRR Mission 4,Component 2:Investment 1.4)资助,项目代码为CN00000013 - CUP I53C21000340006。感谢意大利大学和研究部(MUR)的财政支持。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号