半监督聚类(SSC)方法与应用系统综述:从约束驱动、混合与深度表示学习到可复现评测

《Neurocomputing》:Semi-supervised clustering, methods and applications: A systematic review

【字体: 大 中 小 】 时间:2026年10月26日 来源:Neurocomputing 6.7

编辑推荐:

  半监督聚类(Semi-Supervised Clustering, SSC)方法与应用的系统综述。半监督聚类已从经典算法的基本改进显著演化为复杂混合系统与深度学习(Deep Learning, DL)框架,这些框架能够端到端(end-to-end)学习特征表示

  
半监督聚类(Semi-Supervised Clustering, SSC)方法与应用的系统综述。半监督聚类已从经典算法的基本改进显著演化为复杂混合系统与深度学习(Deep Learning, DL)框架,这些框架能够端到端(end-to-end)学习特征表示与聚类分配。获取监督(supervision)的方法已超越被动约束集(passive constraint sets),发展为包括动态与自动化策略。缺乏标准化基准(standardized benchmarks)与不一致的复杂度报告(complexity reporting),突显了对可复现评估协议(reproducible evaluation protocols)与全面比较实验(comprehensive comparative experiments)的关键需求。
论文解读:数据快速且持续扩张,使机器学习(Machine Learning, ML)成为文本处理、医疗与商业等领域进行洞察提取、复杂问题求解和大型信息分组的重要工具。ML通常分为监督学习(Supervised Learning, SL)与无监督学习(Unsupervised Learning, UL);半监督学习(Semi-Supervised Learning, SSL)利用少量标记数据与大量未标记数据,在标注耗时且需要上下文指导的场景中具有价值。聚类分析(Clustering Analysis, CA)作为无监督方法分支,按相似性形成簇,但传统聚类在复杂数据、领域知识或上下文指导有限时面临挑战。半监督聚类(Semi-Supervised Clustering, SSC)将聚类与定向使用分类信息结合,以提高精度和解释性,应用于医学诊断、文本分类、个性化营销和社交网络分析等。问题在于SSC所需标签或约束并不易获得,尤其高维数据;主动学习(Active Learning, AL)和远距离监督(Distant Supervision, DS)等被用于获取标签或约束。既有综述虽覆盖受限聚类、图聚类、SSC算法与约束聚类等,但研究人员认为需要更广分类法,并特别关注此前综述未全面处理的深度学习SSC,因此开展本系统综述。研究遵循系统综述规划流程,检索IEEE与Scopus并补充手工检索,按纳入排除标准筛选,最终保留283项研究并识别309个SSC算法,按实现策略与先验信息融入方式组织;结论是SSC已从经典算法修改走向混合与表示学习框架,监督获取趋于动态和自动化,但标准化基准、开放实现与一致复杂度报告不足,影响可复现比较。其意义在于提供跨家族分类、梳理监督获取与深度SSC进展,并指出可复现评测与簇级监督消费等方向。

技术方法(≤250字):研究人员采用系统综述规划流程,以IEEE与Scopus为数据库来源,使用检索字符串并结合补充手工检索;按IC1、IC2与EC1—EC3筛选,经PRISMA流程获得283项研究、309个SSC算法;提取算法、监督类型、约束或标签生成、数据集、指标、复杂度、代码可用性等信息,并进行质量评估;采用用户交互、知识使用与信息层级三维分类,并将自动监督与混合知识使用显式化;未报告复杂度时按主要计算操作定性描述。

研究结果:5.1 Coresets(核心集):通过综述两类核心集方法,指出其分别以约束保持采样和结构感知压缩提升约束聚类可扩展性。5.2 Co-clustering(共聚类):通过比较约束共聚类、区间约束、模糊共聚类与SS-NMF,得出先验可约束对象或属性且具可解释性,但迭代矩阵更新限制可扩展性。5.3 Deep learning(深度学习):通过按表示学习范式综述早期神经与自组织、重建、对比与自监督、生成对抗与图方法,得出监督 increasingly 塑造表示空间,趋势包括多视图、图、主动学习、对比学习与领域先验,但复杂度报告、伪标签误差传播与可解释性仍受限。5.4 Density(密度):通过分析ANCC、DBSSHC与NBC等,得出监督主要用于稳定密度参数与消解模糊密度区域。5.4.1 DBSCAN:通过比较Cons-DBSCAN、SSDBSCAN、MCSSDBS及应用型方法,得出监督注入方式不同,DBSCAN类适合非凸簇、噪声与未知簇数,但大规模可扩展性受邻域、图或MST操作限制。5.4.2 Density peak(密度峰):通过分析主动约束选择、CPF、SS-DDBC、CJBM与GC-RGAN,得出其在鲁棒性、监督使用与可扩展性间权衡,SS-DDBC较平衡。5.5 Ensemble(集成):通过综述主动采样、混合数据、随机子空间、图像、视频、流与噪声鲁棒集成方法,得出集成提高可靠性并具标注可扩展性,但重复聚类、成对矩阵与共识优化限制规模。5.6 Evolution & genetic(进化与遗传):通过分析CVQE+、粗糙集遗传、ME-MOEA/Dcc与SHADEcc,得出约束聚类可作为全局优化问题,形成应用驱动与优化驱动两类趋势。5.7 Fuzzy(模糊):通过综述空间、关系、高维、标签或成对约束、证据、主动、流与容量约束方法,得出软隶属适合不确定边界,FCM类迭代较实用,但关系、核、证据与多视图变体常需二次内存。5.8 Gaussian mixture model(高斯混合模型, GMM):通过分析CGMM、CML、FIECE-EM、DPGMM、STFVI-FDPGMM、BKMM-SeSProC与FFSSC/FF-ViT-GMM,得出GMM-SSC从EM初始化走向约束感知概率目标、主动查询、进化可行性搜索、深度潜生成、贝叶斯非参数与有界支持混合。5.9 Graph(图):通过综述签名图、多图融合、流形传播、主动学习、稀疏骨架、结构熵与图表示学习,得出图SSC从稠密样本—样本图传播转向稀疏、锚点、二分、采样、树或骨架表示以提升可扩展性。5.9.1 Affinity propagation(亲和传播):通过分析SHO-AP与主动AP方法,得出其多保持AP结构并以主动约束、层次优化或领域相似度改进质量,但二次内存限制仍存。5.9.2 Spectral clustering(谱聚类):通过综述主动谱方法、目标修改、可扩展表示、领域特定、公平、多视图与少样本方法,得出谱SSC从简单约束插入走向自适应框架,可扩展性仍为主要限制。5.10 Heuristics(启发式):通过分析PSO流量分类、Markov拓扑、CC-LEACH与CACA-AR,得出启发式SSC适合灵活性、领域知识与有限监督,但参数敏感且领域特定。5.11 Kernel(核):通过比较异构相异度、R-HSKMS、MMD主动选择与KernelCSC,得出核SSC重在学习和选择相似表示,KernelCSC以Nystr?m近似较可扩展,但核矩阵存储仍昂贵。5.12 K-means:通过综述PCKMeans、MPCK-Means、度量与Bregman、结构化监督、主动学习与LLM生成约束,得出K-means仍是成对监督最常用宿主,软方法较耐噪,但稠密成对、度量学习或数学规划会削弱其可扩展优势。5.13 K-medoids:通过分析属性级约束、SVM边界主动、MAL、LabeledPAM与约束p-median,得出K-medoids以实际对象代表簇,适合任意相异度和可解释监督,但距离矩阵常为瓶颈。5.14 Matrix factorization(矩阵分解):通过比较子空间分割、GIMC与ILMCP,得出监督可作为因子正则,分别强调子空间结构、任务导向特征变换与多模态约束传播。5.14.1 Non-negative matrix factorization(非负矩阵分解, NMF):通过综述CNMF、NMFCC/SymNMFCC、LPGNMF、LR-NMF、DCNMF、SNMFSP、FRSMNMF、DSNMF与SSD-MO,得出NMF-SSC从简单标签约束走向图正则、传播、多视图、鲁棒与深度多组学,简单NMF较可扩展而图、张量与深度变体内存较高。5.14.2 Concept factorization(概念分解):通过比较PCCF与CSCF,得出PCCF以成对约束软惩罚较简洁,CSCF以相关熵、超图传播与自适应邻居更鲁棒但更重。5.15 Other hierarchical(其他层次):通过分析UPGMA备件、biHAC/biiHAC、HCAC系列、ICC、CSCC与SHC,得出层次SSC中簇级监督最自然,从静态树切割走向交互、约束感知、度量自适应与聚类—分类混合,但常受成对距离计算限制。5.16 Other partitional(其他划分):通过综述SRRA、A3S、CVCP、CPLICE、ConstraintMatch与UKC,得出其面向平衡、容量、类别数据与开放集等结构需求,主动查询、防泄漏模型选择与伪约束可提高监督效率,但可扩展性差异大。5.17 Support vector machine(支持向量机, SVM):通过分析反馈驱动SSVM、SS-DCV、MIQP S3VM、TSC-SVM与dSVC,得出SVM-SSC从分类管道走向成对约束、精确优化、谱伪标签与深度表示学习,密集核与精确优化限制规模。

讨论部分通过跨家族三维分布分析得出:知识使用维度将家族分为空间式与目标式,空间式方法多将监督吸收到度量、亲和、核或潜表示中,目标式方法多将监督作为惩罚或可行性检查,图方法两者兼有;信息层级维度显示距离式方法几乎不消费簇级监督,簇级监督主要出现在目标式方法中,而度量学习需要成对信息,故高维表现较强的表示学习方法在结构上难以直接使用每单位标注最省信息的簇级监督;自然语言标准引导的聚类被视为邻近范式而非本综述核心SSC。研究结论部分翻译如下:通过分析广泛工作,本系统综述追踪了SSC从早期约束划分算法到当前深度学习驱动与核框架的进展。研究表明,有限信息与监督相较纯无监督方法可一致改善聚类性能、鲁棒性与用户满意度。分析显示,最先进方法已从修改K-means等经典算法转向端到端学习特征表示与聚类分配的复杂混合系统;监督获取已从被动约束集发展到主动学习、自动约束生成与标签传播等动态策略。尽管如此,复杂模型可扩展性、对噪声或不平衡数据的鲁棒性以及性能与可解释性的权衡等挑战仍存在。总之,SSC是推进ML研究的路径,为标签稀缺但上下文指导关键的情境提供有力方案;结合深度学习与主动学习可带来更高精度与自主性的算法。证据表明,SSC算法选择取决于数据结构、监督类型与可靠性、标注预算和应用计算约束。本工作亦指出文献方法学局限:不同数据集、指标、监督率和约束生成程序使性能增益来源难以判定;缺乏标准化基准、开放实现和一致的时间与内存复杂度报告限制实际可比性。未来应优先可复现评估协议、共同监督预算、噪声约束鲁棒性测试和更清晰的可扩展性报告。分类还指向结构缺口:在高维数据上最强的方法将监督吸收到聚类空间中,却无法消费簇级监督;使表示学习方法能够消费组级知识是具体且尚较少探索的方向,大规模标准化比较实验可产生无偏基准。近期自然语言标准、用户兴趣或领域提示引导的聚类引入外部知识,但监督形式不同于本综述采用的SSC定义,故未纳入核心集,而被视为邻近方向;LLM方法仅一篇,未来应研究整合可能。讨论中亦指出,稠密成对矩阵、图构建、特征分解、核矩阵或完整约束传播常需二次内存(O(n2))或更高计算成本,而K-means类、核心集类、图类及部分密度类方法通常更可扩展,但可能牺牲灵活性、鲁棒性或复杂簇形建模能力。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号