基于验证机制的持续学习在卫星遥测异常检测中的应用

《Acta Astronautica》:Validation-gated continual learning for anomaly detection in satellite telemetry

【字体: 大 中 小 】 时间:2026年08月04日 来源:Acta Astronautica 3.7

编辑推荐:

  摘要:异常检测对于卫星健康监测至关重要,但现有的深度异常检测模型需要大量代表性数据,且部署后无法动态调整。在数据漂移或数据匮乏的情况下,如卫星任务初期,这种静态模型可能会带来严重问题。一种解决方案是使用持续收集的遥测数据重新训练模型。为确保异常检测的可靠性,模型更新必须能有效提升

  摘要:异常检测对于卫星健康监测至关重要,但现有的深度异常检测模型需要大量代表性数据,且部署后无法动态调整。在数据漂移或数据匮乏的情况下,如卫星任务初期,这种静态模型可能会带来严重问题。一种解决方案是使用持续收集的遥测数据重新训练模型。为确保异常检测的可靠性,模型更新必须能有效提升性能,并在部署前经过验证。为解决重新训练中的难题,我们提出了基于验证机制的持续学习框架。该框架通过利用持续学习算法和主动学习策略,定期优化深度异常检测模型并降低计算成本。我们的研究对比了多种主流的持续学习算法,确定了处理遥测数据的最有效方法。在欧盟航天局卫星遥测异常检测基准测试中的结果显示,基于验证机制的持续学习框架提升了预测精度和异常检测性能。该框架的逐事件F0.5得分可达92.9%,相比之前的静态基线提升了14.3%,同时仅需原始训练数据的不到5%,从而使得在任务早期即可进行异常检测。

引言:卫星的状态和健康状况是通过遥测通道来监测的,这些通道会记录功率、温度、二进制指令以及其他仪器信号等参数[1][2]。检测卫星遥测数据中的异常行为对保障卫星任务的安全与成功至关重要[3]。因此,自动异常检测系统为负责分析诊断日益增多的遥测数据的航天器操作工程师提供了重要支持。针对卫星遥测数据这类时间序列数据,已经开发出了多种异常检测技术,这些方法大致可分为统计方法、机器学习方法和深度学习方法[1]。随着遥测数据集规模和复杂度的增加,由于深度学习方法能够模拟多变量遥测数据流中的复杂交互关系,相关研究越来越倾向于使用这类方法。近期研究探讨了多种现代神经网络架构,包括长短期记忆网络[4]、变换器模型[5][6]、图神经网络[7][8][9]以及生成对抗网络[10][11]。这些模型常常与统计方法结合使用。例如,赵等人[10]将生成对抗网络与相关性分析相结合,以解决异常样本稀缺的问题,他们在三个遥测数据集上均取得了更好的检测效果。Fejjari等人[5]研究了基于变换器的异常检测模型,指出其能够捕捉长期依赖关系和序列模式,他们的实验表明,用于多变量时间序列异常检测的记忆引导型变换器在欧盟航天局OPS-SAT基准测试中达到了最优性能。不过,他们也指出,在训练数据有限的情况下,基于变换器的方法效果往往较差。尽管架构有所不同,但这些神经网络本质上都是静态的,即一旦训练完成就会直接部署,无需进一步调整。虽然静态模型在精心设计的基准测试中可能表现良好,但在实际应用中,这种静态学习模式存在明显局限。与基准测试不同,卫星任务初期可用的遥测数据量十分有限,这给深度学习模型的训练带来了巨大挑战。此外,在任务后期,随着运行模式的变化和组件老化,最初的训练数据便不再能准确反映航天器的当前状态[12],这会导致模型精度下降,进而影响异常检测系统的可靠性。Praveen等人[12]量化了卫星遥测数据中的数据漂移现象,并强调了其重要性。即使在其他预测与健康管理领域,如何在系统部署后立即应对数据漂移和数据匮乏问题依然是一个未解之谜[13][14]。然而,在卫星遥测场景中,由于数据会在运行过程中持续被记录,这就为模型在部署期间不断优化提供了可能。将新信息融入深度学习模型被称为持续学习,也可称为终身机器学习[15][16]。持续学习需要在获取新知识与保留原有能力之间找到平衡,这一难题被称为稳定性与可塑性之间的矛盾[17]。尽管持续学习在卫星遥测领域具有巨大潜力,但由于以往的相关研究大多集中在图像数据上,这一领域的研究仍然较为有限[18]。不过,其他领域的研究成果也能提供有益借鉴。在典型的在线持续学习场景中,模型会随着每个新数据点的出现而更新,这种模式最初是为图像分类任务设计的[19],但它需要持续的计算资源,而且大量的更新使得验证工作变得极为困难。在航天领域,未经验证的模型更新是不可取的[20],因为错误可能导致高昂的代价。为了解决这一问题,一些周期性持续学习框架,如最初为可再生能源预测设计的ClLeaR[21],通过在更新模型之前先缓存新数据,为模型提供多次训练机会,避免了在线持续学习中每次仅根据一个数据点进行更新的情况。He和Sick[21]在他们的时间序列预测实验中指出,如何处理质量较差的模型更新仍是一个未解决的问题,他们并未对此展开研究。为了解决工业环境中的数据漂移问题,Hu等人[22]探索了在航空发动机锥齿轮数据集上应用持续学习进行异常检测的方法。他们的方法通过比较新特征、历史特征及其组合在不同条件下的差异,持续更新模型。这种方法要求存在不同的运行模式,而且对于每种新模式,在测试之前都需要有相应的训练数据。然而,这一假设在持续的卫星任务中并不现实,因为在任务进行过程中往往没有新运行模式的相关数据,但却需要开展异常检测。在这种情况下,主动学习可以通过筛选出高质量的数据样本,进一步提升持续学习的效率[15]。不过,主动学习在持续学习研究中往往被忽视,其在遥测场景中的作用也尚未得到充分研究。因此,现有的持续学习框架在至少三个方面无法满足卫星遥测的需求:首先,在线持续学习方法的更新频率过高,难以进行可靠验证;其次,像ClLeaR这样的周期性框架仍未解决模型更新质量不佳的问题;第三,基于特定运行模式的方法需要提前拥有相关数据,而这在任务进行过程中是无法实现的。本文旨在弥补这些不足,通过设计并系统评估一种新的框架,使现有的持续学习和主动学习方法能够在卫星遥测场景中安全地应用。该框架将异常检测问题转化为持续学习问题,并针对卫星遥测的特殊约束——单流非平稳数据、严格的验证要求以及缺乏新运行模式的数据——设计了专门的系统架构。除了能够在部署期间实现模型适配外,该框架还为系统地评估现有持续学习和主动学习策略在这些条件下的表现提供了结构化的方法。该框架的总体结构如图1所示。由于大多数持续学习算法和主动学习策略最初都是为图像分类等领域开发的,本文的贡献之一就是将这些方法适配到时间序列遥测数据上并进行评估。在我们的实验中,我们以基于Telemanom方法的LSTM模型作为预测异常检测模型,对所提出的框架进行了测试。因此,本文并非提出一种全新的学习算法,而是为现有方法在卫星遥测场景中的应用提供了一种有针对性的框架设计。本文的主要贡献如下:•框架设计:我们提出了一种适用于多变量时间序列数据的持续学习框架,该框架具备强大的模型更新验证功能,专为满足航天器监控中的严格安全要求而设计。在欧盟航天局卫星遥测异常检测基准测试数据集[2][24]上的实验证明了该框架的有效性。•持续学习策略:我们选取了六种持续学习策略,并对其进行了适配和系统评估,这些策略包括经验回放法[25]、强化经验回放法++[26]、强经验回放法[27]、最大干扰检索法[28]、梯度周期性记忆法[19]以及平均梯度周期性记忆法[29]。通过这些实验,我们分析了图像分类领域的持续学习技术在该时间序列遥测场景中的适用性进展。•主动学习策略:我们选择了五种主动学习策略,并对其进行了评估,这些策略旨在提高回放缓冲区的质量,从而在内存受限和数据漂移的情况下实现更有效的模型更新。•模型无关性:该基于验证机制的框架以及所有的持续学习和主动学习策略都具有模型无关性,因此可以应用于现有的异常检测模型。基于验证机制的持续学习框架的实现代码已公开发布。本文的其余部分结构如下:第2节回顾了持续学习的理论基础及其与主动学习的关联;第3节阐述了问题背景并介绍了所提出的框架;第4节定义并适配了本研究所分析的各类持续学习和主动学习策略;第5节描述了实验设置;第6节展示了实验结果并分析了持续学习带来的影响;第7节讨论了实际应用中的注意事项,并总结了未来研究的方向;最后,第8节对全文进行了总结。

术语说明:持续/终身机器学习的定义:学术文献中经常将持续学习与终身机器学习视为同义词,存在多种相互关联的定义[15]。参考Mundt等人的总结[15],他们整合了Thrun[30][31]以及Chen和Liu[32]的相关论述,我们重点介绍两种具有代表性的观点。最初,Thrun提出了终身机器学习的定义如下:定义1(Thrun[31]):学习者需要面对一系列任务,在第TN+1个任务时,学习者应当运用之前TN个任务中学到的知识,以提高任务执行效率。在实际应用中,这一定义通常被理解为……问题设定与数据:我们研究的对象是在单卫星、多变量遥测环境中的异常检测。每个遥测通道会实时记录物理测量值、设备状态、计数器数值或二进制指令等信息[2]。设Xt∈RS×L表示在离散时间t时,S个通道在L个过去时间步内的数据矩阵。异常检测的目标就是识别出那些偏离正常行为的信号。遵循基于预测的异常检测方法[23],我们会利用正常数据训练模型,从而根据历史数据预测未来的遥测数值……

持续学习与主动学习策略的定义与适配:我们的研究聚焦于基于重放的持续学习策略,这类策略在遥测应用中很有优势,因为原始数据序列可以高效存储。我们将这些持续学习与主动学习方法与简单的基准方法进行了对比。实现过程中使用了Avalanche CL库中的相关组件[49]。在整个研究中,当前经验训练集记为Dtrain(e),回放缓冲区记为R,除非另有说明,否则预测损失函数均采用均方误差函数。

实验部分:我们在欧盟航天局卫星遥测异常检测基准测试中的第一项任务和第二项任务上,对基于验证机制的持续学习框架进行了测试[24]。该基准测试涵盖了卫星运行过程中的各种遥测数据,包括物理测量值、分类状态标识、计数器数值以及二进制指令,这些数据来自三次卫星任务[2]。每项遥测指标对应一个独立的通道,每个通道的异常情况也会被单独标注。按照基准测试的要求,我们对第一项任务中的41至46号通道进行了测试,而对第二项任务则采用了无限制的回放缓冲区设置。与图像数据不同,遥测数据的存储成本相对较低。在航天任务中,遥测数据通常会被存档,以便用于故障排查和性能分析[51]。因此,我们的初始实验假设可以访问包含所有历史数据的完整回放缓冲区。为了考虑随机种子带来的差异,实验重复进行了十次。由于计算成本较高,“下限条件”下的实验仅重复了三次,而“上限条件”下的实验则……讨论部分:从实际应用的角度来看,该框架为航天任务带来了诸多优势。与完全重新训练模型相比,持续学习方法的训练成本大幅降低,这使得模型可以更频繁地更新,从而减少在初始数据不足的情况下直接部署模型且无法进一步优化的时间长度。在任务初期,由于遥测数据有限,模型质量往往较差,这一优势尤为重要。对于实际应用而言,……结论部分:本文提出了一种基于验证机制的持续学习框架,该框架将基于重放的持续学习更新方式与严格的安全验证机制相结合。该框架将异常检测问题转化为持续学习问题,并针对卫星运行的特殊约束——单流非平稳数据、严格的验证要求以及部署前缺乏新运行模式的数据——设计了专门的更新流程。该框架的创新之处并不在于……

作者贡献说明:Nils Kuhn:撰写与编辑、原始稿件撰写、可视化处理、验证工作、方法设计、研究实施、形式化分析、概念构思。Bruno Sánchez Gómez:验证工作、软件开发、方法设计、研究实施、形式化分析、概念构思。Natalia Moreno Blasco:验证工作、软件开发、方法设计、研究实施、概念构思。Polona Caserman:撰写与编辑、监督工作、资源协调、项目管理。Federico Antonello:撰写与编辑……

利益冲突声明:作者声明不存在任何可能影响本文研究结果的已知财务利益或个人关系。

致谢:本研究是在欧洲航天局的协作下完成的,该机构为我们提供了宝贵的技术支持和专业指导。第一作者衷心感谢弗里德里希·埃伯特基金会为这项研究提供的资金支持。同时,第一作者也感谢德国学术交流服务处(DAAD)提供的奖学金资助。尼尔斯·库恩|布鲁诺·桑切斯·戈麦斯|纳塔莉亚·莫雷诺·布拉斯科|波洛娜·卡塞曼|费德里科·安东内洛,美国加利福尼亚州斯坦福市94305,斯坦福大学电气工程系。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号