基于伪标签引导的一致性锚点学习的连续多视图聚类

《Neural Networks》：Continual Multi-View Clustering with Pseudo-Label Guided Consistency Anchor Learning

　　王茂源|陆贵福

摘要
连续多视图聚类旨在从顺序到达且存在分布变化的多视图数据中发现集群结构。然而，现有的基于增量锚点的连续多视图聚类框架仍存在一些问题：1. 锚点是以纯粹的重建驱动方式学习的，导致集群语义模糊且对噪声更为敏感；2. 现有方法忽视了一致的锚点级语义的作用，这限制了它们抑制语义漂移的能力；3. 对锚点图进行对齐十分困难，降低了时间一致性并降低了聚类稳定性。为了解决这些局限性，我们提出了一种新的连续多视图聚类方法——伪标签引导的一致性锚点学习连续多视图聚类（CMVC-PCAL）。在初始化阶段，我们将每个锚点图分解为共享的共识组件和特定于视图的不一致组件，并引入按集群划分的伪标签来使锚点与潜在集群对齐，从而得到更清晰、抗噪声能力更强的共识锚点图。在连续处理阶段，对于每批新数据，一种轻量级的增量方案用于更新锚点和锚点图：对齐矩阵用于对齐历史锚点和当前锚点，一致性正则化项用于对齐它们的共识部分，而伪标签引导项则共同更新锚点伪标签和集群中心，以持续优化锚点级语义。最后，我们开发了一种交替优化算法来高效训练模型，通过在公共多视图基准数据集上的实验，验证了该方法在连续多视图聚类场景中的有效性和高效性。

引言
多媒体和传感器技术的快速发展使得多视图数据大量出现，这类数据中的实例由多种异构特征或模态表示，如从不同角度拍摄的图像、用多种语言描述的文本，或通过多种组学技术测量的生物数据。多视图聚类已成为揭示此类数据内在集群结构的基本方法，它通过有效整合各视图之间的一致性和互补性，取得了优于单视图聚类方法的性能。近年来，提出了多种多视图聚类方法，包括基于图的方法（Huang S等人，2024；Wang H等人，2022；Yao M等人，2024）、子空间聚类（Gao H等人，2015；Jing L等人，2015；Liu S等人，2022；Patel VM等人，2013；Sun X等人，2019；Zhang C等人，2024）、多重核学习（Li L等人，2022；Liu X等人，2019）以及多视图图聚类（Liang W等人，2020；Liu Y等人，2022；Liu Y等人，2023；Nie F等人，2016）。其中，基于锚点的多视图聚类因其出色的可扩展性以及与样本大小相关的线性时间复杂度而受到越来越多的关注（Kang Z等人，2020；Mi Y等人，2024；Sun M等人，2021）。通过选择m个样本作为锚点，我们可以构建一个m×n的锚点图，而非完整的n×n自表示图（通常m?n），这些方法将传统子空间或基于图的方法中的计算负担从O(n2)甚至O(n3)降低到O(n)，使其特别适用于大规模数据集。

早期的基于锚点的多视图聚类方法依赖于启发式的锚点选择策略，如对连接后的视图或单个视图进行随机采样或k均值聚类（Kang Z等人，2021；Li Y等人，2015；Qu Q等人，2024），以此生成锚点，进而构建特定于视图或共识性的锚点图。最近的进展则转向自适应锚点学习范式，这种范式在统一框架内共同优化锚点和锚点图（Qiang Q等人，2021；Qin Y等人，2024；Sun M, Zhang P, Wang S, Zhou S, Tu W, Liu X, Zhu E和Wang C，2021），通常会施加多样性约束（如正交性）或结合潜在子空间表示来提升表示质量。值得注意的例子包括那些通过非负图约束学习跨视图共享锚点矩阵的方法，或者通过质心正则化直接将具有集群意识的结构嵌入锚点中的方法（Sun M, Zhang P, Wang S, Zhou S, Tu W, Liu X, Zhu E和Wang C，2021）。尽管这些方法在所有视图同时可用的静态场景中表现良好，但它们通常假设可以完全访问数据，并且采用重建驱动的优化方式，这使得学到的锚点对噪声敏感，且无法明确控制集群级语义（Peng J等人，2025；Zhang C, Jia X, Li Z, Chen C和Li H，2024）。

然而，在许多现实世界应用中，多视图数据是随着时间顺序产生的（例如来自逐步传感器的流式视频、内容不断变化的连续社交媒体信息流，或是受隐私限制的场景），这些数据具有非平稳分布特性，存储所有历史视图既不现实也不可能。这就产生了连续多视图聚类这一研究领域（Parisi GI等人，2019），其目标是在每批新数据或新视图到来时逐步更新聚类模型，同时保留之前获得的知识，避免灾难性遗忘或语义漂移。虽然已经有一些连续多视图聚类框架被探索出来，但大多数都是基于完整图或子空间表示构建的，因此存在较高的计算开销。最近，一些轻量级的基于锚点的增量框架作为一种有前景的解决方案出现（Qu Q, Wan X, Liang W, Liu J, Feng Y, Xu H, Liu X和Zhu E，2024），它们利用历史共识锚点图和排列矩阵来指导新视图的整合，无需重复从头开始重新采样锚点。这些方法实现了基本的时间对齐和可扩展性，但仍存在三个关键局限性：（1）锚点是以纯粹的重建驱动方式学习的，导致集群语义模糊且对噪声更为敏感（Qu Q, Wan X, Liang W, Liu J, Feng Y, Xu H, Liu X和Zhu E，2024；Zhang C, Jia X, Li Z, Chen C和Li H，2024）；（2）现有方法忽视了一致的锚点级语义的作用，这限制了它们抑制语义漂移的能力（Peng J, Cheng T, Jiang G和Wang H，2025；Qu Q, Wan X, Liang W, Liu J, Feng Y, Xu H, Liu X和Zhu E，2024）；（3）对锚点图进行对齐十分困难，降低了时间一致性并降低了聚类稳定性（Qu Q, Wan X, Liang W, Liu J, Feng Y, Xu H, Liu X和Zhu E，2024）。

为了解决上述局限性，我们提出了带有伪标签引导的一致性锚点学习的连续多视图聚类（CMVC-PCAL），这是一种新的轻量级增量框架，它在连续锚点学习过程中引入了明确的按集群划分的伪标签引导，同时探索了视图和时间维度上的一致性-不一致性结构。我们的框架示意图见图1。在初始化阶段，我们将每个视图的锚点图分解为共享的共识组件和特定于视图的不一致组件，并引入按集群划分的伪标签，迫使锚点与潜在集群对齐，从而得到更清晰、更具区分度且抗噪声能力更强的共识锚点。在连续处理阶段，对于每批新数据，一种轻量级的增量方案用于更新锚点和锚点图：对齐矩阵用于对齐历史锚点和当前锚点，一致性正则化项用于对齐它们的共识部分，而伪标签引导项则共同更新锚点伪标签和集群中心，以持续优化锚点级语义。我们还开发了一种高效的交替优化算法来训练模型，该算法在连续多视图聚类场景中已被证明具有收敛性和高效性。

本研究的主要贡献如下：
1. 我们提出了一种新的基于锚点的连续多视图聚类框架，该框架将伪标签引导的按集群划分的锚点学习与一致性-不一致性分解无缝结合，有效解决了现有增量方法中的语义模糊、噪声敏感和语义漂移问题。
2. 我们设计了一种轻量级的增量更新方案，该方案包含明确的锚点图对齐、共识一致性正则化以及基于伪标签的锚点级语义优化，从而在保持线性复杂度的同时显著提升了时间一致性和聚类稳定性。
3. 在多个基准数据集上的广泛实验表明，CMVC-PCAL在存在分布变化的连续多视图场景中能够实现最先进的聚类性能。

本文的其余结构安排如下：第2节概述了聚类研究领域的最新发展。第3节首先介绍文中使用的符号和术语，然后详细阐述本研究所提出的方法和原理。第4节详细介绍优化步骤。第5节展示实验结果。最后，第6节对全文进行总结。

相关工作
基于锚点的聚类因其高效性和可扩展性而受到了广泛关注。在本节中，我们回顾了近年来在基于锚点的聚类、基于锚点的多视图子空间聚类以及连续多视图聚类方法方面的主要研究成果。

基于锚点的聚类作为一种可扩展的解决方案，通过将传统基于图的方法中的计算复杂度从O(n2)或更高降低到O(n)，从而成为处理大规模数据的有效方法，其中n为数据点数量。

符号与预备知识
表1列出了各种符号及其定义。

语义一致性
对于真实的多视图数据，由于存在异质性差异，每个视图往往都包含特定于该视图的信息，直接寻找最优的共享表示通常较为困难。以往的多视图聚类方法（Fang S-G等人，2023；Huang D等人，2023；Zhang C, Jia X, Li Z, Chen C和Li H，2024）通常直接对共识图施加约束，而忽视了视图间一致性的重要性。为了解决噪声敏感问题……

优化
方程(7)包含五个需要优化的独立变量，同时优化这些变量可能是一项艰巨的任务。我们可以观察到，当αz= 0且αb= 0时，方程(7)实际上与方程(6)相同，因此我们只需优化前者即可。为此，我们设计了五步交替优化策略，即每次优化一个变量，而其他变量保持不变。

实验
在本节中，我们将所提出的方法与八种现有算法在六个基准数据集上进行比较。此外，还提供了参数敏感性分析、收敛性分析以及运行时间比较，以便全面评估CMVC-PCAL的性能。所有实验均在配备AMD Ryzen 9 7945HX CPU、主频2.50 GHz、16.0 GB内存的PC上，使用MATLAB R2024b在64位Windows操作系统下进行。

结论
在本文中，我们提出了CMVC-PCAL，这是一种带有伪标签引导的一致性锚点学习的连续多视图聚类框架。该方法旨在为顺序到达的多视图数据学习出在语义上具有区分度且在时间上稳定的锚点，从而无需反复存储或重新处理历史视图。通过将一致性-不一致性分解、伪标签引导的锚点学习以及连续锚点对齐整合到一个统一的优化框架中……