锚图概率标签诱导与张量化标签学习的高效离散多视图聚类(EDMVC_TLL)

《Mathematics》:Efficient Discrete Multi-View Clustering with Tensorized Label Learning

【字体: 大 中 小 】 时间:2026年10月23日 来源:Mathematics 2.3

编辑推荐:

  锚图因能够降低聚类计算复杂度而受到广泛关注。将回归技术应用于锚图时,现有基于回归的方法主要聚焦于直接学习样本标签,而由样本–锚关系在锚点上诱导的标签分布仍未得到充分探索。研究人员提出高效离散多视图聚类与张量化标签学习(Efficient Discrete Mu

  
锚图因能够降低聚类计算复杂度而受到广泛关注。将回归技术应用于锚图时,现有基于回归的方法主要聚焦于直接学习样本标签,而由样本–锚关系在锚点上诱导的标签分布仍未得到充分探索。研究人员提出高效离散多视图聚类与张量化标签学习(Efficient Discrete Multi-View Clustering with Tensorized Label Learning,EDMVC_TLL)以解决该局限。具体而言,研究人员充分利用锚图的概率性质建立样本标签与锚标签之间的关系,利用锚标签指导样本标签学习。此外,研究人员引入一种创新正则项以平衡锚标签,避免平凡解并提升样本标签质量。张量Schatten p-范数挖掘不同视图中嵌入的互补信息。此外,研究人员采用自适应锚图,并将其集成到后续优化过程中以提升锚图质量。研究人员开发了一种高效优化算法,并在六个基准数据集上的大量实验表明,EDMVC_TLL在ACC(accuracy,准确率)、NMI(normalized mutual information,归一化互信息)和Purity(纯度)方面持续取得所比较方法中的最佳性能。
论文解读如下。

研究背景方面,随着大数据快速增长,大量无标签数据不断产生,如何有效处理多样数据并提取有价值信息仍是重要挑战。聚类作为无监督学习的基础技术,可将样本划分为不同簇并为无标签数据赋予伪标签,从而服务于下游任务。现实应用中,金融、医学和社交网络分析等领域的同一实体常由文本、音频、视频等多种模态描述,每种模态构成一个视图,由此产生多视图数据。传统单视图聚类难以在此类复杂数据上取得满意性能,而多视图聚类(multi-view clustering,MVC)可利用多个视图间的互补信息,通常具有更高准确性和鲁棒性。基于图的多视图聚类因能够刻画数据点几何结构而受到关注,其核心是将每个视图数据表示为图,通过图融合探索潜在结构和相互关系并实现聚类。然而,传统图聚类通常构造全图并对拉普拉斯矩阵进行特征分解以获得簇指示矩阵,计算强度大,难以适用于大规模数据。锚图方法通过构造紧凑的样本–锚关系,用少量锚点近似原始数据分布,从而显著降低计算成本。但早期锚图方法常依赖K-means或谱聚类等额外聚类过程获得最终结果,标签为间接获得,可能引入额外计算成本并影响聚类稳定性。此后,虽有方法通过学习图连通性约束直接获得聚类分配,或进一步关注锚表示、自适应锚结构和锚层面直接聚类,但这些研究主要集中于锚表示、图结构或聚类分配,锚与样本之间的概率关系及其诱导标签分布仍未充分探索。受回归聚类启发,已有方法直接从锚图学习聚类标签,但主要通过投影矩阵将锚图映射到样本标签空间,聚焦样本标签,未显式建模潜在锚标签及其对标签传播的影响。因此,现有方法仍缺乏一个统一框架,以同时利用概率锚标签关系、直接学习离散标签并捕捉标签矩阵间的跨视图相关性。针对这些问题,研究人员开展EDMVC_TLL研究,利用锚图概率性质建立样本标签与锚标签关系,以锚标签指导样本标签学习,实现一步聚类;设计新正则项平衡锚标签分布并避免平凡解,从而提升样本标签质量;将张量Schatten p-范数引入标签张量以捕捉视图特定标签矩阵间的跨视图相关性;并将自适应锚图与锚标签、样本标签联合优化,使图结构与聚类分配相互 refinement。其意义在于在直接离散聚类框架中联合利用概率锚标签关系、跨视图低秩标签相关性和自适应锚图细化,并在多个基准数据集上取得ACC、NMI和Purity的领先性能。

关键技术方法(不超过250字):研究人员以锚图概率转移建立样本–锚–簇关联,由样本标签诱导锚标签并反向指导样本离散标签;引入范数最大化正则项平衡锚标签并避免平凡解;采用张量Schatten p-范数对视图标签矩阵堆叠张量施加低秩约束;将自适应锚图(adaptive anchor graph,AAG)作为优化变量与标签联合更新;在增广拉格朗日乘子(Augmented Lagrange Multiplier,ALM)框架下,以坐标下降(Coordinate Descent,CD)更新离散标签、以张量奇异值分解(tensor singular value decomposition,t-SVD)和广义收缩阈值更新辅助张量、以一阶泰勒展开更新锚图。数据来源为六个公开基准数据集:MSRC、HandWritten4、Mnist4、Scene、Reuters和NUS;锚点采用VDA(variance-based de-correlation anchor selection,基于方差去相关的锚选择)选取,初始二部图按KMM构建。

研究结果方面,保留原文实验小标题并概括如下。5.1 Experimental Setup(实验设置):采用MSRC、HandWritten4、Mnist4、Scene、Reuters和NUS六个数据集,以ACC、NMI和Purity评价,实验环境为Windows 10 Server、双Intel Xeon Gold 6230 CPU、128 GB内存和MATLAB R2023b;初始锚图按TBGL方式构建,锚点用VDA策略选取,初始二部图用KMM构建。5.2 Compared Methods(对比方法):与CSMSC、GMC、LMVSC、FMCNOF、SFMC、FPMVS-CAG、MSC-BG、FSMSC、OMVFC-LICAG、LMVC-MFCG、ALPC和LMTC等先进方法比较。5.3 Experimental Results(实验结果):EDMVC_TLL在六个数据集的18个数据集–指标组合上均取得最佳结果;与同样使用张量Schatten p-范数的MSC-BG相比更优,归因于平衡锚标签的正则项提升样本标签质量及自适应锚图的增益;CSMSC和GMC不适合大规模数据集,而EDMVC_TLL因锚基概率转移降低复杂度,在大规模数据集上仍表现优越。5.4 Stability and Statistical Significance(稳定性与统计显著性):由于VDA锚选择不需随机初始化,后续视图离散标签优化、标签张量更新、自适应图更新和最终标签聚合均采用确定性更新规则,固定输入和参数产生固定聚类结果;每个数据集重复五次,ACC、NMI和Purity相同,标准差为零;采用精确双侧Wilcoxon符号秩检验,在0.05显著性水平下,EDMVC_TLL相对LMVSC、FMCNOF、SFMC、FPMVS-CAG、MSC-BG、FSMSC、OMVFC-LICAG、LMVC-MFCG、ALPC和LMTC在三项指标上显示统计显著改进,但受六个配对数据集限制且未进行多重比较校正。5.5 Ablation Study(消融研究):在MSRC、Mnist4、Reuters和NUS上,替换平衡锚标签正则项导致四个数据集性能明显下降;移除张量Schatten p-范数项一致降低聚类性能,表明跨视图低秩标签建模的贡献;去除自适应锚图在部分数据集接近完整模型,在较大数据集上影响更明显。5.6 Efficiency and Resource Evaluation(效率与资源评估):在Reuters和NUS上比较运行时间和峰值内存,EDMVC_TLL在Reuters需69.986 s和1798.200 MiB,在NUS需171.032 s和2065.100 MiB;其运行时间低于FPMVS-CAG、FSMSC和LMVC-MFCG,峰值内存低于SFMC、FPMVS-CAG、FSMSC和LMVC-MFCG,在两个大规模数据集上保持中等运行时间和内存消耗。5.7 Model Robustness(模型鲁棒性):在MSRC和Mnist4上考察高斯特征噪声与不完整视图设置;随噪声水平增加性能下降,但在中等特征扰动下仍保持较好聚类性能;随机遮蔽10%和20%样本–视图条目时仍保持较好性能,Mnist4上10%缺失视图结果高于20%,与更高缺失率造成更大信息损失一致。5.8 Parameter Analysis(参数分析):锚率影响一般非单调,过小锚率不足以表示数据结构,过大锚率可能引入冗余锚并增加计算成本而不稳定提升结果;参数p在四个数据集上的最优值分别为0.1、0.3、0.7和1,表明张量Schatten p-范数可有效利用视图低秩结构并影响聚类结果;两个超参数分别控制张量Schatten p-范数项强度和图偏差惩罚强度,较大图偏差惩罚使自适应锚图更保守地接近初始锚图,较小值允许更大图适应,参数敏感性随数据集不同。5.9 Label Matrix Visualization(标签矩阵可视化):对多个数据集聚类标签矩阵进行可视化,颜色值表示聚合视图特定标签矩阵后的累计分配分数,较大值表示更多视图支持将样本分配到相应簇,集中块状模式表明样本到簇分配清晰。5.10 Empirical Convergence Analysis(经验收敛分析):在MSRC和HandWritten4上以重构误差及三个聚类指标随迭代变化评估收敛,曲线早期有波动,反映交替优化中变量逐步协调,随迭代推进曲线逐渐稳定,展示实际收敛行为。5.11 Discussion and Limitations(讨论与局限):方法在联合利用概率锚标签学习、张量Schatten p-范数正则和自适应锚图细化方面取得良好性能,但锚标签平衡策略假设较平衡簇分布较理想,对自然高度不平衡簇数据过强平衡正则可能影响内在结构保持;张量Schatten p-范数依赖不同视图共享相关聚类结构假设,当视图高度不一致或含噪时低秩张量假设可能效果下降;自适应锚图较全图学习降低计算负担,但Schatten p-范数优化中的张量分解对极大规模数据仍增加计算成本。

讨论部分总结:作者承认三类局限,即平衡正则对高度不平衡簇分布的适应性、低秩张量假设对高度不一致或噪声视图的敏感性,以及张量优化在极大规模数据上的额外计算成本;未来方向包括面向不平衡聚类的自适应平衡机制、面向异质视图的鲁棒张量学习以及面向大规模多视图聚类的可扩展优化策略。

研究结论部分翻译如下:本文提出一种新方法,称为高效离散多视图聚类与张量化标签学习(EDMVC_TLL)。该方法利用锚图的概率性质建模样本标签与锚标签之间的关系,使用锚标签指导样本标签学习。此外,引入一种新正则项平衡锚标签,有效避免平凡解并进一步提升样本标签质量。进一步地,通过对样本指示张量应用张量Schatten p-范数,所提方法挖掘不同视图间的互补信息和低秩相关性。采用自适应锚图替代固定锚图,使样本与锚之间的关系可在后续优化中细化。研究人员进一步开发高效优化策略求解所提模型。六个基准数据集上的大量实验证明EDMVC_TLL在ACC、NMI和Purity方面的有效性。实验结果表明,EDMVC_TLL在全部18个数据集–指标组合上取得最佳结果。尽管有效,所提方法可能受高度不平衡簇分布、高度不一致或噪声视图以及张量优化计算成本限制。未来工作将聚焦自适应平衡策略、鲁棒张量学习和面向大规模应用的可扩展优化技术。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号