块对角线正则化多核均值聚类算法用于不完整的多视图数据

《Neurocomputing》：Block-diagonal regularized multiple kernel -means clustering for incomplete multi-view data

　　摘要
多核均值聚类算法已成功应用于不完整多视图数据。然而，现有方法存在两大缺陷：其一，在构建最优核时无法为各基核赋予具有可解释性的差异化权重；其二，常见的多阶段聚类策略易因误差累积而产生次优解。为解决这些问题，我们提出了一种用于不完整多视图数据的块对角正则化多核均值聚类方法，称为BD-MKKC-IMV，该方法包含三项核心创新。首先，采用两阶段自适应核权重策略，在两个阶段分别赋权：第一阶段根据各基核与共识基核的结构相似度为其分配权重；第二阶段则依据各共识基核与最优核的相似度进一步调整权重。这一策略确保了权重分配的合理性与可解释性。其次，在指示矩阵与其转置的乘积上引入块对角正则化项，以促进清晰的聚类结构形成，从而实现直接聚类。第三，将核填充与聚类分配整合到统一的优化框架中，使其能够协同更新、相互强化，进而避免跨阶段的误差传播。在六个基准数据集上的大量实验表明，BD-MKKC-IMV的性能可与八种最先进的算法相媲美。

引言
多视图数据通常源自多个来源或多种模态。每个视图代表单个来源观测到的结果或单一模态的数值。在实际应用中，多视图数据极为常见。由于各种原因，许多多视图数据是不完整的，比如缺少整个视图或视图中的某些元素。例如，对于阿尔茨海默病患者，部分体检数据可能因患者拒绝某些检查或医疗设备数据质量不佳而缺失。不完整多视图聚类是现实应用中的常见难题，也引发了大量研究兴趣。

近年来，针对不完整多视图数据，人们提出了多种聚类方法，包括基于矩阵分解、核学习、图学习以及子空间聚类的方法。其中，多核均值聚类因其兼具多核函数处理非线性数据的灵活性与均值聚类的简洁高效性而备受关注。代表性的方法包括基于不完整核的多核均值聚类、用于不完整多视图数据的共识核均值聚类以及局部不完整多核均值聚类，这些方法在处理不完整多视图数据时均展现了出色的聚类性能。

然而，现有的大多数不完整多视图数据多核均值聚类方法存在以下共同缺陷：
（1）在最优核构建过程中缺乏具有可解释性的差异化权重机制。现有方法未能根据各基核与目标核之间的结构相似度赋予差异化权重，导致权重分配缺乏明确的语义解释。这一问题体现在两个阶段：第一阶段，在生成视图内共识基核时，现有方法仅简单取各基核矩阵的平均值，忽略了个别基核与共识核之间的相似度差异，因而无法按照“相似度越高，影响力越大”的原则进行差异化加权；第二阶段，在将各共识基核融合为最终最优核时，所分配的权重与各共识基核与最优核之间的相似度之间不存在明确的逻辑关联。这两个阶段的缺陷共同导致最终得到的最优核无法准确反映各基核的有效信息，进而限制了其表示能力。
（2）核填充与聚类分配的串行架构会导致误差累积。现有方法通常将核填充与聚类分配视为两个独立的、依次执行的阶段。在这种串行架构下，填充阶段仅以核矩阵的完整性作为唯一优化目标，该阶段产生的估计误差会不可避免地单向传递到后续的聚类阶段。此外，两个阶段之间缺乏信息反馈与协同优化机制，使得误差无法及时被发现和纠正，从而逐渐累积并放大。这严重影响了聚类结果的可靠性与准确性。

为解决这些问题，我们开发了一种用于不完整多视图数据的块对角正则化多核均值聚类方法，称为BD-MKKC-IMV，其核心改进包括三方面：
（1）两阶段自适应加权策略。为获得高质量的最优核，我们设计了两阶段自适应加权机制。第一阶段，针对每个视图，根据各基核与共识核的结构相似度进行自适应加权，将多个基核动态融合为一个共识核。这克服了传统平均融合方法的缺陷，后者无法区分各个基核的不同贡献。第二阶段，则根据各共识核与最终最优核的相似度计算权重，进而将共识核进一步融合为最优核。两个阶段的加权过程均以结构相似度为驱动，从而使权重具备明确的语义解释性，显著提升了核构建的合理性与可解释性。整体流程如图1所示。
（2）块对角正则化项。为形成清晰的聚类结构，我们在指示矩阵与其转置的乘积上引入块对角项。该项利用聚类指示矩阵的固有特性，在相对温和的条件下有效诱导出块对角结构，从而使不同类别的样本在变换后的空间中自然分离，得到紧凑且具有区分度的聚类结果。与Feng等人采用的“严格”块对角约束相比，本文所用的块对角正则化项并不强制要求严格的块对角形式，因此更具灵活性。
（3）核填充与聚类分配的统一框架。为解决上述串行架构导致的误差累积问题，BD-MKKC-IMV将核填充与聚类分配整合为一个统一的联合优化目标。该框架在填充过程中保留所有已知的核元素，且无需依赖任何完整的视图，因此适用于多种不完整数据场景。同时，在统一框架下，填充过程由聚类目标引导，而聚类则根据填充结果进行更新。这两个过程相互强化，从根本上避免了跨阶段的误差传播，显著提升了聚类结果的可靠性与稳定性。

本文的主要贡献如下：
• 提出了一种两阶段自适应加权核融合策略。该策略在两个阶段均以结构相似度为引导，实现数据驱动的动态权重分配，既明确了各个基核在生成共识核过程中的不同贡献，也体现了共识核在构建最优核时的相关性，从而使权重具备清晰的语义解释性。
• 建立了一个集成块对角正则化、核填充与聚类分配的统一优化框架。该框架采用了非破坏性的填充策略，无需假设数据完整，适用范围广泛。同时，填充与聚类在统一目标下协同更新、相互强化，有效避免了跨阶段的误差累积与传播，从而保证了聚类结果的稳健性与稳定性。
• 在六个基准数据集上进行了大量实验，并与八种主流的不完整多视图聚类方法进行了对比分析。实验结果证明了BD-MKKC-IMV在聚类精度、稳健性及适用性方面的优异表现。

本文共分为六部分：第2节介绍相关研究，第3节阐述背景知识；第4节详细介绍所提出的BD-MKKC-IMV方法及其优化过程；第5节展示实验结果并进行分析；最后第6节对全文进行总结。