GTEE:一种用于复杂缺失场景下强大时间序列插补的全球时间戳编码改进方法

《Information Fusion》:GTEE: A Global Timestamp Encoding Enhanced Method for Robust Time Series Imputation in Complex Missing Scenarios

【字体: 大 中 小 】 时间:2026年02月13日 来源:Information Fusion 17.4

编辑推荐:

  袁峰|刘振宇|刘辉|蒋西山|刘欣|孙佳成|谭建荣 浙江大学计算机辅助设计与图形学国家重点实验室,中国浙江省杭州市余杭塘路866号,310058 摘要 时间序列插补通过恢复与内在时间模式一致的可用信息来解决数据不完整问题。现有的深度学习方法主要依赖于观测数据与缺失数据

  袁峰|刘振宇|刘辉|蒋西山|刘欣|孙佳成|谭建荣
浙江大学计算机辅助设计与图形学国家重点实验室,中国浙江省杭州市余杭塘路866号,310058

摘要
时间序列插补通过恢复与内在时间模式一致的可用信息来解决数据不完整问题。现有的深度学习方法主要依赖于观测数据与缺失数据之间的关联,由于依赖局部观测数据,其在缺失率较高且缺失模式多样的复杂缺失场景中的有效性受到限制。本研究提出了一种基于全局时间戳编码的即插即用多变量时间序列插补方法。该方法能够自适应地挖掘与全局时间戳对应的稳定周期性模式,从而克服仅依靠少量且不平衡的局部观测数据来重建分布的局限性。具体而言,我们设计了:1)一个先验挖掘模块,用于自动识别每个变量的主要频率;2)一个时间戳概率插补模块,该模块对时间戳进行全局编码,并基于这些频率进行概率插补;3)一个时间戳-局部联合插补框架,该框架通过融合模块将时间戳插补与标准的基于数据的插补方法相结合,从而自适应地为每个变量和时间步调整输出权重。在四个真实世界数据集、三种缺失模式以及六种代表性插补方法下,当缺失率为50%时,实验表明GTEE方法能够持续提升性能(平均提升率超过10%),体现了其在处理现实世界时间序列数据中常见的复杂缺失场景时的强大适用性。

引言
时间序列数据的完整性对于确保时间序列预测和分类等下游分析任务的准确性和可靠性至关重要[1]、[2]、[3]。然而,在实际应用中,传感器故障、设备过载以及网络通信异常等因素[4]可能导致收集到的数据中出现缺失值,进而影响数据的完整性。因此,开发时间序列插补算法以推断缺失值是一种有效的方法,可通过缩小原始观测数据与真实值之间的差距来解决上述问题[5]。

在时间序列插补领域,近期研究多采用预定义的局部窗口内的历史数据作为输入,通过建模观测数据的分布模式及其与未观测部分的关联关系来重建缺失值[6]。这类方法可分为传统方法和基于深度学习的方法。传统方法包括统计技术和机器学习技术,具有简单且适用范围广的优点。典型的方法有MICE[7]和MissForest[8]。不过,这些方法主要捕捉样本内部或变量间的关联,因此在处理复杂的时变特征时效果有限。相比之下,基于深度学习的方法利用可训练参数来建模时间动态和样本间关联,具备更强的非线性表示能力。例如,基于GAN的堆叠自适应均值迭代插补框架[9]通过连续子块和递归更新来考虑时间自相关性,在工业过程数据上取得了良好的性能。类似地,基于注意力的区间辅助网络[10]能够自适应地纳入采样点之间的时间延迟信息,从而提高工业软传感器建模的插补质量。

尽管这些方法在缺失率较低且假设为简单随机缺失的情况下表现良好,但现实应用中往往面临更为复杂的缺失场景。在钢铁生产[11]和加氢裂化[12]等过程中,由于多速率采样或传感器老化,传感器数据常常出现高缺失率或逐渐增加的缺失情况。此外,由于缺失原因的复杂性,数据缺失模式也往往多种多样,通常包括随机分布的逐点缺失、多个变量间的整块缺失,以及单个变量内的长序列缺失。这些模式与不同的缺失机制密切相关[13]:第一种属于随机缺失,而后两种则一般被视为非随机缺失,后者给基于局部观测的推断带来了更大挑战。

现有的时间序列插补方法在面对高缺失率和多样化的缺失模式的复杂缺失场景时存在明显局限:
•仅依赖优化局部观测数据的建模无法从根本上解决插补瓶颈。采用纯局部建模策略的方法(如图1中的模式A),如LLSimpute[15],随着缺失率的上升,由于有效观测数据越来越少,其性能会显著下降。而基于多样本学习的方法(如图1中的模式B),如GAIN[16],在随机缺失机制下表现良好,但在处理长连续缺失时仍面临较大困难。这些方法主要关注局部数据分布,缺乏捕捉全局和跨样本关联的能力,在数据极为稀疏的场景下有效输入信息不足。
•现有方法在利用全局时间戳信息方面深度和灵活性不足。虽然许多基于深度学习的方法,如基于Transformer的插补方法[17],采用了位置编码,但这些编码主要用于区分局部窗口内的相对位置。近期试图引入全局时间戳的方法,如LSTGCN[18],往往依赖于从文本表示中得到的固定模式,仅将时间戳作为辅助特征,这限制了它们的通用性以及建立时间位置与插补结果之间深层映射的能力。

为了解决这些局限,我们探索通过引入系统化的全球时间戳建模策略,并将其与基于局部观测数据的插补模型结合在一个即插即用框架中,从而增强时间序列插补能力。该框架能够全面利用全局时间戳来挖掘稳定的周期性成分,同时保留对局部窗口级数据关联的建模,以确保剩余成分的插补精度。如图1(2)中的模式C所示,这种方法扩展了模型的校正建模范围,减少了对局部观测数据的依赖,从而有助于在复杂场景中面对稀疏且不规则的缺失数据分布时保持插补精度。为将稳定周期性模式的发现与局部缺失特征分离,我们设计了一种基于时间戳的插补模型,该模型独立于观测值,仅依赖时间戳输入。这一设计面临的关键挑战包括:1)有效识别不同周期性成分的频率信息,并建模其在特定时间戳处的相位对齐;2)量化时间戳插补的不确定性,以适应现实中时变的周期性行为;3)自适应地融合两种不同的插补模型的结果,即一种基于全球时间戳,另一种基于局部观测数据。

具体而言,我们提出了一种基于全局时间戳编码增强的多变量时间序列插补方法——GTEE。首先,我们开发了一个先验挖掘模块,该模块整合了自相关函数和Burg方法这两种经典的频率分析技术[19],用于自动提取与全球时间戳对应的稳定周期性成分的主要频率。其次,我们引入了一个时间戳概率插补模块。该模块采用与变量无关的正弦余弦机制,将标准化后的时间戳与挖掘出的频率相结合,从而准确表示每个时间步的相位信息。随后,时间戳编码与可学习的变量嵌入相结合,以捕捉各变量特有的模式,再输入到在高斯假设下的MLP编码器-解码器中,以估计均值和方差,从而实现具有不确定性量化的、可区分变量的基于时间戳的插补。第三,我们设计了一个时间戳-局部联合插补框架,该框架将时间戳插补与基于局部数据的深度插补模型相结合。该框架使用基于最大似然的分布转换单元,以提高时间戳插补结果与局部观测数据之间的一致性。之后是一个多尺度卷积自适应融合单元,该单元能够动态地为两种方法的输出分配合适的权重,充分利用时间戳插补和基于局部数据插补的优势。

我们在四个真实世界数据集和六种先进的插补方法上验证了所提方法的有效性。我们的代码将在Github上公开。本文的主要贡献如下:
•我们提出了一种用于全局时间戳编码的主频率挖掘方法。该方法无需依赖专家定义的先验,即可自动提取与时间戳对应的多个重要周期性模式,从而提升了现有时间戳编码方案的通用性。
•我们开发了一种时间戳概率插补模块。该模块仅利用全局编码的时间戳信息即可推断缺失值的分布,无需依赖局部观测数据。这种方法使得时间戳的应用更加深入,超越了其作为辅助位置标识的传统角色。
•我们提出了一种具有融合机制的时间戳-局部联合插补框架,该框架能够考虑不同变量和时间点上基于时间戳的插补结果的置信度差异。通过将基于全球时间戳的推理与局部数据建模相结合,该框架在有效输入信息不足的复杂缺失场景下提升了模型的鲁棒性。

片段摘录
传统时间序列插补方法
插补是时间序列预处理中的重要步骤。早期的统计方法包括全局策略(如均值/中位数填充)以及局部技术,如前向/后向填充、移动平均和样条插值[20]。这些方法在缺失率较低且模式简单的情况下效率较高且效果不错,但在面对变量异质性、复杂分布和噪声时则力不从心。为了解决这些问题,人们提出了基于高级机器学习的方法:GkNN[21]使用了……

初步知识
时间序列插补。主流的基于深度学习的多变量时间序列插补模型通常采用以下定义:
X?local=fθ(Xlocal,Mlocal)
其中θ表示模型参数,X?local∈RC×L为模型输出。Xlocal∈RC×L表示固定长度局部窗口内的多变量时间序列数据,C为变量数量,L为窗口长度。Mlocal∈RC×L为二进制掩码矩阵,用于指示缺失数据的位置,其中每个元素Mlocal(i,j)表示……

数据集
主要实验是在四个真实世界的多变量时间序列基准数据集上进行的:电力变压器温度数据集的ETTh1和ETTm1子集[36]、北京空气质量数据集(BeijingAir)[41],以及土耳其某风力涡轮机的2018年SCADA数据(WindTurbine)1。ETTh1和ETTm1最初是完整的,而BeijingAir和WindTurbine的初始缺失率较低。采样……

结论
在本研究中,我们提出了GTEE,这是一种利用全局时间戳编码来应对高缺失率和复杂缺失模式挑战的新颖时间序列插补方法。我们的方法能够捕捉到时间戳中蕴含的稳定周期性结构,而这些结构是仅依靠局部窗口级方法无法恢复的。我们设计了PMM来自动提取多变量时间序列的主要频率。在此基础上,我们构建了一个基于全局时间戳的TPIM模型,用于建模每个变量的分布先验……

CRediT作者贡献声明
袁峰:撰写——初稿、软件、方法论、概念设计。刘振宇:撰写——初稿、方法论、研究、数据整理。刘辉:撰写——审稿与编辑、验证、项目管理、资金获取。蒋西山:撰写——审稿与编辑、验证、形式分析。刘欣:撰写——审稿与编辑、研究、资金获取。孙佳成:撰写——审稿与编辑、可视化、研究。谭建荣:撰写……

利益冲突声明
作者声明他们没有已知的可能影响本文所述工作的财务利益或个人关系。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号