DeCITS：利用深度对比学习进行的不完整时间序列聚类

《Neural Networks》：DeCITS: Incomplete Time Series Clustering with Deep Contrastive Learning

　　

• •
  该研究提出了一种深度对比型不完整时间序列聚类方法。
• •
  它引入了一种对抗策略来区分真实值和推断值。
• •
  它在聚类层面实现了对比方法。
• •
  该模型可以同时优化推断和聚类过程。
• •
  实验结果证明了该方法的优越性。

引言

时间序列在多个领域中扮演着重要角色，如金融市场预测（Barazandeh等人，2025年）、基因表达分析（Bar等人，2022年）和气候建模（Kashinath等人，2021年）。由于缺乏类别标签，数据分析师越来越多地使用聚类方法从复杂且大规模的时间序列数据集中发现有意义的模式和有价值的信息（Alahamade、Lake、Reeves、De La Iglesia，2022年；Guo、Zhang、Meng、Zhang、Gao、Tang，2025年；Huang、Deng，2023年）。

现实世界的时间序列数据常常因数据损坏等问题而包含缺失值，重新记录既昂贵又不切实际（Li、Du、Zhang、Jiang、Dong，2024年；Zhu、Mueen、Keogh，2021年）。不完整的时间序列会妨碍数据分析，并对下游应用产生负面影响，例如预测（Lai等人，2025年）和聚类（Cheema，2014年）。例如，de Jong等人（2019年）成功将阿尔茨海默病和帕金森病患者分层为不同的亚组，但该研究并未充分解决具有大量缺失值的多元短时间序列的聚类问题。一个自然的解决方法是先进行缺失值推断，然后再进行聚类（Du等人，2023年）。然而，两阶段策略往往难以有效结合推断和聚类方法，可能导致次优结果（Zhang等人，2025年）。最近，人们试图改善这一情况。de Jong等人（2019年）提出了一种基于深度学习的方法，称为Variational Deep Embedding with Recurrence（VaDER），该方法依赖于高斯混合变分自编码器框架来生成分离良好的表示。虽然验证了其有效性，但该方法仍存在局限性，特别是在推断到聚类过程中误差传播方面。为了解决这一缺陷，Ma等人（2021年）引入了一种对抗策略，旨在有效减少误差传播。

对比学习最近展示了通过対原始数据应用多种增强技术来学习表示的强大能力，从而从增强后的输入中得出潜在的嵌入（Chen、He，2021年；Deng、Chan、Yeung，2025年）。这种方法通过数据增强技术探索视觉领域中输入图像的不同视角，最大化同一图像不同视图之间的相似性，同时最小化不同图像视图之间的相似性（Li等人，2026年）。此外，Eldele等人（2023年）通过引入时间对比模块，使模型能够在具有挑战性的时间序列预测任务中学习出区分性表示。Gao等人（2023年）利用多变量时间序列进行任意步长预测，结合了可解释的Tensorized Gated Recurrent Unit（TGRU）和常微分方程（ODE），以实现任意时间点的多步预测。然而，上述方法主要关注预测任务，并不广泛适用于其他时间序列领域，如聚类。到目前为止，只有少数研究探索了用于时间序列聚类的对比学习。例如，Zhong等人（2022年）使用数据增强策略“jitter”来建模两个视角，并实现了两种对比损失以优化聚类。尽管如此，这种方法是为完整时间序列设计的，由于数据收集失败等问题，很难将其扩展到不完整时间序列。

为了解决这些问题，我们提出了Deep Contrastive Incomplete Time Series Clustering（DeCITS）模型。该模型采用简单而有效的数据增强技术，适应任何时间序列数据，生成输入数据的替代表示。其主要目标是最大化相同时间序列对之间的相似性，同时最小化不同时间序列对之间的相似性。此外，我们还在编码器-解码器网络中加入了集成软K-means目标（Ma等人，2019年）的次要组成部分，以增强聚类性能。这种方法使DeCITS能够同时优化推断和聚类过程，从而减少推断引入的偏差，确保推断值更有利于有效的聚类。

这项工作的主要贡献如下：

•

缺失值会破坏不完整时间序列聚类中的时间依赖性。现有的单阶段方法由于推断错误不可控地传播到聚类中而遭受偏差爆炸的问题。我们引入了一种对抗策略，抑制偏差放大并切断误差传播，打破了推断和聚类之间的恶性循环。

•

传统的对比学习在数据缺失的情况下会失败，因为损坏的相似性度量会产生更多的假阳性/阴性对。我们为不完整时间序列应用了一种直接而有效的增强技术，并通过对比聚类分配而不是原始实例来进行聚类级对比学习，使目标对缺失值具有鲁棒性，同时增强聚类结构。

•

为了稳定单阶段联合优化，我们在推断和聚类之间插入了一个全连接层，作为一个可学习的缓冲器，将两个任务解耦。推断和聚类同时进行优化，以确保推断服务于聚类，并减轻优化不稳定性。

•

提出的机制在六个真实世界和八个合成的UCR不完整时间序列数据集上进行了验证。结果一致表明，我们的方法解决了不完整时间序列聚类的核心矛盾，并实现了最先进的性能。

部分片段

相关工作

本节首先回顾了不完整时间序列聚类模型，然后介绍了时间序列方法的对比学习。

框架概述

本节详细介绍了我们提出的DeCITS。如图1所示，我们的模型包括四个相互连接的组件：一个带有推断模块的并行主干网络、一个对抗模块、一个重建模块和一个对比模块。引入带有推断模块的并行主干网络，使用这些编码器深入了解数据的潜在时间表示。在这个模块的一个分支中，使用简单的方法生成输入数据的独特视角

时间序列数据集和评估指标

在本研究中，我们在14个数据集上进行了实验，包括来自不同领域的六个真实世界不完整时间序列数据集（Alizadeh、Eisen、Davis、Ma、Lossos、Rosenwald、Boldrick、Sabet、Tran、Yu等人，2000年；Bianchi、Mikalsen、Jenssen，2017年；Chen、Cheung、So、Fan、Barry、Higgins、Lai、Ji、Dudoit、Ng等人，2002年；Silva、Moody、Scott、Celi、Mark，2012年）以及八个UCR时间序列数据集（Mejri、Lopez-Fuentes、Roy、Chernakov、Ghorbel、Aouada，2024年；Wu、Keogh，2023年）。

结论

总之，本研究提出了一种用于处理不完整时间序列数据的对比学习任务，并从两个角度联合优化了推断和聚类过程。此外，还实施了一种对抗策略来减少从推断到聚类阶段的误差传播。实验结果表明，DeCITS优于现有的两阶段和单阶段方法在不完整时间序列聚类中的表现。消融研究和稳定性测试验证了

CRediT作者贡献声明

Ying Zhong：撰写——原始草稿、可视化、软件、方法论、形式分析、数据整理、概念化。Haiyan Wang：撰写——审阅和编辑、验证、调查、资金获取、概念化。Dong Huang：撰写——审阅和编辑、方法论、调查、资金获取、概念化。Yuan-Kun Xu：撰写——原始草稿、可视化、验证、软件、方法论。Chang-Dong Wang：撰写——审阅和编辑、资源、项目

利益冲突声明

作者声明他们没有已知的可能会影响本文工作的竞争性财务利益或个人关系。

致谢

本工作得到了中国国家自然科学基金（项目编号32402464和项目编号62202176）、广东省自然科学基金（项目编号2023A1515012885）以及广州市基础与应用基础研究项目（项目编号2025A04J3924）的支持。

Ying Zhong|Haiyan Wang|Dong Huang|Yuan-Kun Xu|Chang-Dong Wang|Huiru Zhou