面向过程的不完整多视图聚类综述

《Neurocomputing》：A Process-Oriented Survey of Incomplete Multi-View Clustering

　　# 摘要• 本文对不完整多视图聚类进行了全面综述，涵盖基本概念、缺失数据模式、代表性方法、基准数据集、应用领域和未来方向。• 现有不完整多视图聚类方法被系统地分为六大类：基于矩阵非负分解、核学习、张量学习、子空间学习、图学习和深度学习的方法。• 讨论了不同不完整多视图聚类方法之间的融合趋势，包括图学习、张量建模、锚点学习、对比学习和深度表示学习的集成。• 总结了基准数据集、评估指标和对比实验方案，为不完整多视图聚类性能评估提供了清晰的参考。• 回顾了该方法在医学诊断、工业监测、商业智能、风险评估和推荐系统中的实际应用，并指出了未来研究的关键挑战。## 引言多视图数据是由不同传感器、特征提取器和信息源获取的异构表示的组合。在许多实际应用中，一个实体可以从多种模态进行描述，例如医学诊断中的CT、MRI和PET图像，或多媒体分析中的图像、文本和音频。这些异构表示被称为多视图数据，它们在不同视图之间包含互补信息，同时共享一个潜在的结构。为了利用这些特性，多视图聚类已被开发出来，用于集成多个视图中互补和一致的信息，从而克服单视图聚类的局限性，揭示更准确的数据内在结构。由于其强大的性能，多视图聚类在无监督学习中引起了越来越多的关注，并已广泛应用于医疗、金融和教育等领域。例如，图1展示了使用十二个视图进行阿尔茨海默病诊断的案例，而图2则显示了基于九个文本视图的P2P借贷违约风险评估。传统的多视图聚类方法通常假设每个样本在每个视图中都有表示，这一假设在传感器故障、采集成本、隐私限制和不完善的记录连接等情况下经常被违反。因此，不完整多视图聚类旨在从部分观测的多视图数据中获取可靠的聚类结构。其核心挑战不仅仅是填补空白条目，而是要确定哪些信息是可恢复的，哪些跨视图关系仍然是可信的，以及缺失引入的不确定性应如何影响最终的划分。不完整多视图聚类通过几条互补的方法路线发展而来。矩阵分解和子空间学习估计共享的潜在表示；核方法建模非线性样本关系；图学习保留局部几何结构并在不完整视图中传播信息；张量模型利用视图、样本和关系结构之间的高阶依赖关系。自编码器、生成对抗网络、扩散模型、图神经网络和对比学习将这一基础扩展到非线性语义和复杂的跨视图依赖关系。锚点学习通过将完整的成对图替换为样本-锚点关系来提高可扩展性。这些发展使不完整多视图聚类从显式数据重建转向结构感知、语义化以及日益混合的学习方法。已有几项综述为理解该领域提供了重要基础。文等人回顾了不完整多视图聚类的理论和实验方面，重点介绍了代表性聚类框架。唐等人将范围扩大到不完整多视图学习，并将现有方法组织为生成式和判别式范式，涵盖多种缺失场景和学习任务。然而，混合方法的快速发展削弱了仅基于技术机制的分类的解釋力。一种方法可能同时结合图学习、张量正则化、锚点近似和深度表示学习。因此，传统分类并不总是能澄清正在补偿什么信息、补偿如何支持聚类以及误差可能在哪里传播。更广泛的不完整多视图学习视角也提供了有限的针对聚类的基准协议、可扩展性以及完成质量与聚类质量之间关系的分析。为了克服这些局限性，本综述提出了一个以缺失信息处理目标为中心的过程导向分类体系。在最宽泛的层面上，现有不完整多视图聚类方法被分为基于完成和不基于完成的方法。基于完成的方法根据缺失信息重建的阶段进一步区分为五个主要类别：观测级完成、表示级完成、关系级完成、决策级完成和不基于完成的学习。观测级方法在原始数据空间中恢复缺失的特征或整个视图。表示级方法推断缺失的潜在嵌入，而不是重建原始观测。关系级方法完成核、相似度矩阵、亲和图或样本-锚点关系。决策级方法恢复特定视图的聚类分配、基划分或其他与聚类相关的决策变量。相比之下，不基于完成的方法不显式估计缺失的观测、表示、关系或决策，而是通过掩码感知优化、自适应融合或观测视图聚合直接从可用视图中学习共识聚类结构。表1比较了本综述与两个最相关综述在研究范围、分类框架、应用覆盖和未来研究方向方面的差异。我们的框架在图3中展示。本综述的主要创新与贡献总结如下：1. 我们提出了一种结合完成阶段与技术机制演化的过程导向分类体系。2. 我们系统地回顾了170多篇代表性研究，并根据主要完成目标一致地对混合方法进行分类。3. 我们从缺失假设、聚类集成、误差传播、鲁棒性、复杂度和可扩展性等方面比较了现有方法。4. 我们总结了基准数据集、评估协议和实现资源，并讨论了关键挑战和未来研究方向。本文其余部分组织如下：第2节定义了不完整多视图数据、缺失模式和主要学习对象。第3节提出了过程导向分类体系，并比较了完成误差、缺失鲁棒性、可扩展性和跨层次混合。第4节总结了数据集、评估指标、代表方法和实证证据。第5节回顾了应用场景及其范围边界。第6节总结本综述并概述了未来研究方向。## 章节摘要### 预备知识在回顾不完整多视图聚类方法之前，有必要区分不完整性的形式与用于解决这些问题的学习目标。本节首先引入多视图观测及其可用模式的统一符号表示。然后从两个互补的角度刻画不完整数据：结构缺失模式，指定信息不可用的位置；统计缺失机制，描述缺失是如何产生的。在此基础上，本节进一步区分了不完整多视图聚类中的主要学习目标：表示学习、聚类结构和潜在分布估计。最后，本节讨论了缺失模式对模型设计和评估的影响，并提出了评估不完整多视图聚类方法的统一指标。### 不完整多视图聚类方法的过程导向分类体系方法处理缺失信息的位置为分类不完整多视图聚类提供了比技术组件更为稳定的基础。因此，我们将文献组织为观测级完成、表示级完成、关系级完成和决策级完成，以及不基于完成的学习。前四个类别恢复缺失的特征或视图、潜在编码、关系结构或聚类分配，而不基于完成的方法则直接从可用证据中学习。### 基准数据集与评估本节总结了原始出版物中报告的基准资源、评估协议和实证结果。算法未在统一实验环境中重新实现或重新运行；因此，收集的值应被解释为文献报告的证据，而不是严格控制的对头比较。对于每种方法，我们尽可能保留报告的"数据集"、"缺失率"、"评估指标"和"统计形式"。### 应用不完整多视图聚类的实用价值在于其将碎片化、异构和部分观测的信息整合为连贯聚类结构的能力。在实际应用中，缺失视图通常由传感器故障、隐私限制、采集成本、异步采样或不完整的用户行为引起。因此，不完整多视图聚类在医疗、工业系统和商业智能领域得到了广泛探索，在这些领域中，从无标签的多源数据中发现潜在结构至关重要。### 结论与未来方向不完整多视图聚类已成为无监督学习中的重要研究课题，因为现实世界中的多视图数据通常具有异构性、噪声性和部分观测性。本综述从过程导向的角度回顾了不完整多视图聚类，根据缺失信息处理的阶段组织现有方法：观测级完成、表示级完成、关系级完成、决策级完成和不基于完成的学习。### CRediT 作者贡献声明**黄花娟：** 写作 – 审阅与编辑、监督、项目管理、资金获取。**魏秀喜：** 写作 – 原创草稿、方法论、正式分析、概念化。**于孟康：** 写作 – 审阅与编辑、可视化、验证、调查、数据管理。### 利益冲突声明作者声明他们没有任何已知的竞争财务利益或个人关系，这些关系可能被认为影响了本文报告的工作。### 致谢本工作得到中国国家自然科学基金（编号62266007）和广西自然科学基金（编号2021GXNSFAA220068）的支持。魏秀喜 | 于孟康 | 黄花娟