基于几何统计的三元聚类

《Neurocomputing》：Three-way clustering with geometric-statistical confidence

　　摘要：三向聚类在各种应用中取得了显著成效。然而，其性能在很大程度上取决于阈值确定和边界样本分配。现有方法仍存在两大缺陷：区域划分通常基于一维特征或简单统计量，无法充分描述复杂的数据分布；而边界样本分配缺乏样本级的统计显著性检验，降低了聚类决策的严谨性和可靠性。为解决这些问题，本文提出了一种基于几何统计置信度的新型三向聚类算法，即TWC-GSC。该算法构建了多维几何置信度量，以支持更精细的区域划分，并引入基于似然比检验的统计推断机制用于边界样本分配，从而使得聚类决策具有样本级的统计显著性。在10个合成数据集和10个真实数据集上的全面实验表明，与7种现有的先进聚类方法相比，TWC-GSC在大多数情况下都能展现出更优的聚类性能。

引言：作为一种受认知启发的新兴无监督学习方法，基于三向决策理论的三向聚类受到了广泛关注[1]。该理论提供了一个系统的三分框架，模拟人类“接受-延迟-拒绝”的决策过程来应对不确定性[2]。与传统硬聚类或模糊聚类不同，它不会对每个样本强制赋予明确分类。而是根据成员确定性，将样本划分为三个互斥的区域：核心区域（明确属于该类的样本）、边界区域（分类不明确的样本）以及拒绝区域（噪声）。如图1(a)所示，样本自然地被划分为核心区（蓝色）、边界区（红色）和拒绝区（灰色），构成了基本的三分框架。这种“分而治之”的策略具有明显优势。首先，通过延迟对不确定样本的决策，可减少噪声和重叠结构带来的扭曲，从而保持核心聚类的完整性[3]；其次，其三区域输出具有天然的层次结构且易于理解，与人类的认知模式相契合[4]；最后，该框架具有可扩展性，能够结合密度度量、图结构或领域知识来适应复杂的数据分布[5][6]。这些优点使其在那些对不确定性敏感且需要可解释决策的场景中具有广阔的应用前景，例如计算机视觉中的图像分割（将像素划分为对应于前景、过渡区和背景的核心区、边界区和拒绝区），以提高分割精度[7]，以及医疗保健领域的辅助诊断（如将医学图像中的病变分为确认、疑似或正常类型）[8]。尽管现有的三向聚类方法具有诸多优势，但它们仍面临两个核心挑战：第一，在三区域划分方面，早期的三向聚类方法，如三向k均值算法[9]，采用固定的全局阈值来划分硬聚类结果。如图1(b)所示，这种方法容易出现两种问题：过度分割（丢弃有效的核心样本）和分割不足（保留过多的边界噪声）。为提高划分的灵活性，后续研究提出了自适应阈值策略[10]，并从样本稳定性分析[11]和阴影集优化[12]等角度进一步推动了该领域的发展。然而，上述大多数方法仅依赖单一的一致性指标或传统的密度度量。Wang等人在其关于密度峰聚类的综述中[13]系统地介绍了各种基于密度驱动的自适应划分方法，这些方法现已被广泛应用于三区域划分研究中。Fei等人[14]证明，结合全局密度和局部密度可以有效提升边界样本的区分度。受这一密度融合理念启发，本文提出的多维置信度量也融入了这一概念。尽管最近的混合框架，如M3W[15]和3WC-GBNRS++[16]将自适应阈值与细粒度划分相结合，但其决策标准仍然基于基本统计量，无法捕捉样本之间的多维差异。以医学图像分割为例：病变的边界像素被迫在二元选择之间做出决定——要么被当作噪声丢弃，导致病变区域不完整且丢失病理信息，要么被纳入核心区域，人为扩大病变范围，降低后续定量分析的准确性。出现这种困境的原因是单一指标阈值无法区分那些勉强属于核心区域的样本和真正的噪声。为解决这一限制，本文整合多维特征，构建了综合性的置信度量，从而弥补并改进现有的划分方法。第二，在边界点分配方面，基于kNN的投票方法容易产生连续的错误分类和误差传播现象[17]，如图1(c)–(d)所示。早期方法依赖于静态的成员规则[18]，而后来的研究则探索了基于结构或几何标准的自适应机制。值得注意的是，颗粒球计算技术（GBC）增强了三向聚类的能力，通过多粒度优化实现了细粒度的结构划分——利用信息熵或合理粒度原则来细化粒度，从而在样本级精度上保持局部结构。尽管在结构粒度方面取得了进展，但GBC中的边界分配仍主要依赖于球级聚合或投票机制。这类机制缺乏严格的点级概率推断，因此无法量化分配决策的统计显著性。在异常检测或小对象识别等场景中，这一局限性尤为突出。在没有基于显著性推断的情况下，一个错误标记的点就可能导致误差沿着邻域链传播，进而污染整个稀疏聚类——在高维低样本量的场景中，这一问题会更加严重[19]。为填补这一空白，本文采用了假设检验的方法，运用对数似然比检验为每个边界决策提供可量化的、有统计依据的支持。基于上述思路，本文提出了一种基于几何统计置信度的三向聚类算法，简称TWC-GSC。该算法的核心实现流程如下：首先，采用高斯混合模型（GMM）来估计置信度评估及后续对数似然比检验所需的后验概率；其次，构建综合置信度量，该度量系统地整合了四个维度的信息——分类确定性得分、局部一致性、聚类紧凑性以及边界敏感性，从而为每个样本赋予置信度得分；第三，针对每个聚类，通过置信度量值的箱线图分析实现自适应的三区域划分；最后，对于边界区域的样本，进行对数似然比检验以确定其最终的聚类归属，然后将迁移到的正区域样本用于在下一轮迭代中重新估计GMM参数。上述过程不断重复，直至得到稳定的三向划分结果。本文的主要贡献如下：•设计了一种综合置信度量，整合了分类确定性得分、局部一致性、聚类紧凑性以及边界敏感性，从而实现核心区域、边界区域和噪声区域更精细且自适应的划分；•提出了针对单个样本的似然比检验方法，用于量化样本归属于其两个最可能所属聚类的显著性，为动态迁移决策提供严格的统计依据。本文的后续结构安排如下：第2节将回顾三向聚类、概率模型以及统计检验的相关理论基础；第3节将介绍相关研究工作；第4节将详细阐述本文提出的动态置信度聚类算法的设计细节；第5节将通过实验验证该算法的有效性；第6节将总结全文并指出未来的研究方向。