无参数集成聚类框架,采用三级动态加权机制

《Neurocomputing》:Parameter-free ensemble clustering framework with three-level dynamic weighting mechanism

【字体: 大 中 小 】 时间:2026年05月13日 来源:Neurocomputing 6.5

编辑推荐:

  Jia Qu|Qidong Dai|Zekang Bian|Suhang Gu中国江苏省常州市常州市大学计算机科学与人工智能系摘要基于共关联(CA)矩阵的集成聚类方法表现出色。然而,现有方法仍面临两个主要挑战:(1)它们无法同时为基础聚类结果、簇和样本分配动态权重;(2)它们涉及

  
Jia Qu|Qidong Dai|Zekang Bian|Suhang Gu
中国江苏省常州市常州市大学计算机科学与人工智能系

摘要

基于共关联(CA)矩阵的集成聚类方法表现出色。然而,现有方法仍面临两个主要挑战:(1)它们无法同时为基础聚类结果、簇和样本分配动态权重;(2)它们涉及的超参数难以调整。为了解决这些限制,我们提出了一个无参数的集成聚类框架,该框架采用了三级动态加权机制(EC-TDWM)。具体来说,所提出的框架根据基础聚类结果、簇和样本的重要性自动分配权重,同时避免了超参数调整的需要。此外,它可以直接生成最终的离散簇标签。实验结果表明,EC-TDWM在聚类性能方面优于现有的最先进方法。

引言

集成聚类[1],[2],[3],[4],也称为共识聚类,旨在通过整合多个基础聚类结果[5]来生成更健壮和一致的结果。其典型过程包括两个核心阶段[6]:首先生成一组基础聚类结果(即生成阶段),然后通过某种共识机制整合这些结果以得出统一的聚类结果(即集成阶段)。
作为无监督学习任务,集成聚类方法面临一个核心挑战:有效整合多个基础聚类结果[5]。由于易于使用和扎实的理论基础,依赖于共关联(CA)矩阵的方法是最常用的方法之一[7]。这些方法通常包括两个主要阶段:首先,通过整合多个基础聚类结果构建CA矩阵。随后,采用聚类方法(例如谱聚类方法[8])作为CA矩阵的后处理方法来得出最终聚类结果。
研究人员基于CA矩阵开发了一系列集成聚类方法[9],[10],[11],这些方法显著提高了聚类性能。然而,这些方法仍然存在一些关键挑战。
  • (1)
    通过开发一个同时考虑这三个因素并动态调整其权重的框架,有潜力推进现有关于为基础聚类结果、簇或样本分配权重的研究。
  • (2)
    这些方法大多涉及必须预先设置的超参数。尽管通常使用启发式规则或默认值,但这些选择往往不是最优的,并且严重依赖于领域专业知识。
因此,为了解决这些挑战,本研究提出了一个统一的集成聚类框架,该框架(1)同时为基础聚类结果、簇和样本分配动态权重;(2)避免了超参数选择的需要。我们的贡献受到以下基础工作的启发并在此基础上进行了构建:
一些集成聚类方法[12],[13],[14],[15]通过引入加权机制(例如为基础聚类结果、簇或样本分配权重)来提高聚类性能。这一系列工作最初是从为基本聚类结果分配权重开始的,因为低质量的基础聚类结果会直接降低集成性能[12]。然而,后续研究表明,即使是质量较差的基础聚类也可能包含高质量的簇[13]。同样,样本的重要性各不相同,因此需要对其进行区分[15]。这些发现强调了在多个层面上考虑权重的必要性。此外,研究[14]表明,动态加权通常比基于固定规则的静态策略具有更大的潜力。更重要的是,大多数这些方法涉及的超参数难以校准,这是一个关键挑战。为了规避上述挑战,本研究旨在为集成阶段开发一个无参数的集成学习框架,在该框架中,基础聚类结果、簇和样本的权重可以动态且同步地调整,且不涉及手动调整的内部权衡参数。
受上述见解的启发,提出了一种名为EC-TDWM的集成聚类方法。具体来说,我们设计了一个框架,该框架能够同时捕捉基础聚类结果、簇和样本的重要性,并相应地自适应地调整它们的权重。该框架直接生成最终聚类结果,无需后处理,同时避免了对超参数调整的依赖。本研究的主要贡献总结如下:
  • (1)
    提出了一种新的集成聚类方法EC-TDWM,其中引入了一种统一的三级动态加权机制,以同时和自适应地表征基础聚类结果、簇和样本的重要性。
  • (2)
    开发了一个无参数的集成学习框架,用于集成阶段,从而避免了对手动调整内部模型超参数的需要,从而减少了了对经验参数选择的依赖。
  • 设计了一种交替优化方法,以便可以无需额外后处理即可生成最终聚类结果。
  • 在所有使用的数据集上的实验结果表明,EC-TDWM的聚类性能与所采用的比较方法相当。
为了便于阅读和理解,本文使用的关键数学符号在表1中进行了总结。
本文的其余部分组织如下。第2节介绍了与EC-TDWM相关的工作。第3节详细阐述了EC-TDWM模型。第4节提供了实验结果。最后,我们在第5节总结了我们的发现并讨论了未来研究的潜在方向。

章节片段

相关工作

在本节中,我们回顾了集成聚类方法。

具有三级动态加权机制的无参数集成聚类框架

在本节中,我们将详细阐述所提出的EC-TDWM。EC-TDWM的总体工作流程如图1所示。该过程首先通过K-means生成基础聚类结果,然后将编码这些基础聚类结果的二进制分区矩阵输入到无参数的集成聚类框架中。随后,根据基础聚类结果、簇和样本的重要性自适应地调整权重,并确定共识标签

实验

在本节中,我们通过一系列实验评估了EC-TDWM的有效性。所有实验都在配备Intel Core i7-14700KF CPU的Windows 11 PC上使用MATLAB R2022a实现。

结论

在这项研究中,提出了一种名为EC-TDWM的集成聚类方法。该方法基于一个无参数框架,其核心是一个三级加权机制,该机制能够自适应地为基础聚类结果、簇和样本分配重要性权重。该框架可以直接生成最终标签矩阵,无需任何后处理步骤。实验结果表明,EC-TDWM的性能超过了几种最先进的方法。
未来研究

CRediT作者贡献声明

Jia Qu:撰写——审稿与编辑、方法论、资金获取。Zekang Bian:撰写——审稿与编辑、方法论、资金获取、概念化。Qidong Dai:撰写——原始草稿、验证、软件、形式分析、数据整理。Suhang Gu:撰写——审稿与编辑、方法论、资金获取。

在准备本研究期间,作者使用Google AI Studio改进了语言。使用该工具后,作者根据需要审阅和编辑了内容,并对已发表文章的内容负全责

作者声明他们没有已知的竞争性财务利益或个人关系可能影响本文所述的工作。

致谢

本研究部分得到了中国国家自然科学基金(项目编号62306126、62106025)的支持,部分得到了江苏省青年科技人才支持计划(项目编号JSTJ2024283)的支持,部分得到了江苏省自然科学基金(项目编号BK20220621、BK20210940)的支持,以及吴兴市科技发展基金(项目编号K20231006)的支持。
Jia Qu获得了中国矿业大学(徐州)控制理论与控制工程专业博士学位,目前是常州市大学计算机科学与人工智能学院及阿里云大数据学院的助理教授。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号