《IEEE Access》:A Method for Consensus Anchor Graph Learning for Incomplete Multi-View Clustering
编辑推荐:
多视图聚类(Multi-view Clustering, MVC)是一种从不同视图中整合异构领域特定信息的常用方法。然而,大多数MVC方法假设所有视图具有完整的观测数据,在实际应用中由于数据缺失或损坏,这往往不可行。为解决这一局限,研究人员开发了不完整多视图聚
多视图聚类(Multi-view Clustering, MVC)是一种从不同视图中整合异构领域特定信息的常用方法。然而,大多数MVC方法假设所有视图具有完整的观测数据,在实际应用中由于数据缺失或损坏,这往往不可行。为解决这一局限,研究人员开发了不完整多视图聚类(Incomplete Multi-view Clustering, IMC)来处理部分观测数据。近期,研究人员提出了基于锚点图的IMC方法,因为传统IMC方法通常涉及二次或更高复杂度,这严重限制了其在大规模复杂数据集上的可扩展性。尽管这些方法通过近似样本-锚点关系提高了效率,但在高缺失率条件下其性能仍然下降。因此,研究人员提出了一种专门针对大规模数据集的可扩展基于锚点图的IMC算法。该方法通过结合两种策略增强了严重不完整数据中的聚类性能。首先,双部图锚点学习策略将计算成本降至接近线性时间,同时保留了视图间结构。其次,共识图学习项整合了视图特定判别性与跨视图一致性。动态锚点更新使框架能够有效适应不同数据集规模和缺失模式。通过在多个领域的16个数据集上进行实验,研究人员评估了其聚类准确性和执行时间,证实了该框架的有效性。所提出方法的有效性通过其优于代表性IMC基线并扩展到大规模数据集的能力得到验证。即使在高度不完整水平下,其可靠性也得以保持,突显了其在大规模实际应用中的实用性。源代码和实现细节可在https://datalab.dongguk.edu/IMC获取。CCBY - IEEE 并非此材料的版权所有者。请按照https://creativecommons.org/licenses/by/4.0/ 中的说明获取全文文章和API文档中的规定。
**论文解读:基于共识锚点图的不完整多视图聚类方法**
**研究背景与问题**
多视图聚类(Multi-view Clustering, MVC)是一种融合来自不同视图的异构领域特定信息的主流方法,广泛应用于图像、文本、生物信息等领域。然而,现有MVC方法大多假设所有视图数据完整,但在实际应用中,数据采集或传输过程中常出现缺失或损坏,导致完整观测不现实。传统处理方式如丢弃不完整样本或填充常数值(如零)会浪费信息或扭曲聚类结果。为此,不完整多视图聚类(Incomplete Multi-view Clustering, IMC)被提出以处理部分观测数据,但现有IMC方法存在两大瓶颈:矩阵分解方法难以捕捉视图间复杂非线性关系;图基方法通常具有二次或更高复杂度(O(n
2)及以上),限制了大规模数据集的扩展性。近期基于锚点图的IMC方法通过近似样本-锚点关系降低了复杂度至线性水平,但在高缺失率下锚点质量退化,导致聚类性能严重下降。因此,研究人员提出一种可扩展的基于锚点图的IMC算法,旨在同时保持低复杂度和高缺失率下的鲁棒性。该文发表在《IEEE Access》。
**主要技术方法**
为开展研究,研究人员采用了以下关键技术方法:
- 双部图锚点学习策略:通过引入共识锚点(C)和投影矩阵(P
(v)),将计算复杂度降至近线性时间(O(n(dm+dk+km+m
2)+kdm)),同时保留视图间结构。
- 共识图学习项:通过权重矩阵(W
(v))整合视图特定锚点图(Z
(v))与共识锚点图(Z),协同捕获视图内判别信息与跨视图互补信息。
- 动态锚点更新:通过迭代优化,共识锚点C和锚点图Z
(v)、Z随学习过程更新,适应不同缺失模式。
- 交替优化策略:基于奇异值分解(SVD)和Karush-Kuhn-Tucker(KKT)条件逐变量优化,直至收敛。
实验使用16个数据集,包括10个UniProt蛋白质序列数据集(来源Swiss-Prot,每个实例对应一个蛋白质序列,视图包含PseAAC、k-mer自然向量、FEGS特征)和6个基准数据集(Cifar10/100、Animal、BDGP、Reuters、Cornell),覆盖图像、生物信息、文本等多领域。
**研究结果**
**A. 不同缺失率下锚点图IMC算法的聚类偏差比较**
研究人员通过对比实验,在UniProt数据集上评估了不同缺失率下提议算法与现有锚点图IMC算法的聚类精度变化。结果表明:提议算法在大多数数据集上随缺失率增加持续保持最高精度,尤其在A. thaliana 50和S. cerevisiae 70上,各缺失率均优于所有基线;缺失率超过20%时,相对IMVC-CBG和SIMC-ADC的精度偏差超过10%;与次优方法FIMVC-VIA相比,在高缺失率(>30%)下的性能增益更显著,大规模数据集如Human和Mouse上偏差随缺失率增大而增大,证实了共识锚点在保持视图一致性和鲁棒性中的关键作用。
**B. 整体聚类结果比较**
研究人员在UniProt数据集和基准数据集上对比了提议算法与10种现有IMC方法(包括IMVC-CBG、FIMVC-VIA、SIMC-ADC、IMSC-AGL、HCP-IMSC、UEAF、LSIMVC、PIMVC、TCIMC、TCLIMC)。采用精度(ACC)、归一化互信息(NMI)和纯度(Purity)三项指标,记录均值和标准差。结果证明:提议算法在所有数据集和指标上一致优于现有最先进方法,例如在S. cerevisiae 70上ACC比次优FIMVC-VIA提高2.38%,在Cornell数据集上提高6.61%,在BDGP上提高14.94%。矩阵分解方法(UEAF、LSIMVC、PIMVC)在复杂数据集上表现较差,图基方法(IMSC-AGL、HCP-IMSC)在小规模数据集上表现良好但无法扩展至大规模(>50,000实例),张量方法(TCIMC、TCLIMC)在高缺失率下性能骤降且计算不可行。提议算法在16个跨领域数据集上均实现稳定优越性能,展示了强泛化能力和可扩展性。
**C. 消融研究**
为评估共识项的有效性,研究人员在Reuters、BDGP、Animal、Cifar100四个数据集上进行消融实验,设置λ
1=0(移除共识项)并与原方法(λ
1 > 0)对比。结果显示,在所有数据集上,包含共识项的方法始终优于消融基线,且性能差距随缺失率增大而扩大,在Cifar100上即使小缺失率(2%-10%)也有显著增益,证实共识项在提升聚类精度和稳定性,尤其是在严重信息丢失下的关键作用。
**D. 运行时间分析**
研究人员测量了所有方法在16个数据集上的聚类执行时间。结果表明,锚点图基IMC算法(包括提议算法)的执行时间随数据集大小近似线性增长,而传统IMC方法呈指数增长。提议算法在包含超过2,000个实例的数据集上一致优于其他锚点图方法,在Cifar10和Cifar100上取得最快执行时间,并排名第二快在UniProt数据集上,证实了计算效率。
**E. 收敛性分析**
研究人员通过理论分析和实验验证了提议算法的收敛性。目标函数f由平方项组成,下界为零,且交替优化保证单调递减。在四个代表数据集上,目标函数在10次迭代内快速收敛,证实了理论和实证的一致性。
**F. 参数分析**
研究人员分析了超参数λ
1(共识学习项惩罚)和λ
2(正则化项惩罚)对精度的影响。结果显示,小数据集对λ
1更敏感,精度波动较大;大数据集(>10,000实例)对λ
1依赖降低。λ
2主要稳定共识图,在合理范围内影响较小,仅极端值产生明显变化。
**G. 可视化**
研究人员对S. cerevisiae 50数据集(10%缺失率)使用t-SNE对最终锚点图进行降维可视化。结果显示,提议算法生成的簇分离最清晰,三个簇界限分明,有效最小化类内距离、最大化类间距离,进一步验证了聚类结构的优越性。
**总结讨论与结论**
讨论部分指出,尽管提议算法在16个数据集上表现优越,但仍存在局限性:当缺失率超过60%时,精度显著下降;尚未评估大规模真实世界多视图数据集。未来工作将聚焦于验证实际场景、探索监督或半监督扩展,以及集成到端到端流水线中。
**研究结论翻译**:在本研究中,研究人员介绍了一种基于锚点图的IMC算法,通过双部图锚点学习降低计算复杂度,并通过共识图学习提高鲁棒性。通过联合建模视图特定和跨视图信息,该算法即使在高速缺失率下也一致实现了可靠的聚类性能。在16个数据集上的对比实验表明,所提出的框架通过提供更高的聚类精度和更低的计算成本,优于现有最先进的IMC方法。这些发现突显了该方法的可扩展性和跨不同领域的广泛适用性。