GUA_FCM：一种广义通用自适应模糊C均值聚类算法

《Neurocomputing》：GUA_FCM: A generalised universal adaptive fuzzy c-means clustering algorithm

　　

摘要 模糊 C 均值（FCM）算法通过引入模糊隶属度函数，扩展了传统的硬聚类算法，表现出优异的性能，成为最广泛使用和经典的聚类算法之一。然而，FCM 仍面临一些挑战，例如未考虑不同数据特征和类别对聚类效果的影响，未充分利用簇内和簇间距离信息，以及通常采用固定的模糊化系数，这些都限制了算法的聚类性能。为了解决这些问题，本文提出了一种广义通用自适应 FCM 聚类算法（GUA_FCM）。首先，建立了一个新的聚类目标函数，该函数集成了特征权重、簇权重、簇内距离信息和簇间距离信息，以更准确地描述算法的聚类特征。其次，构建了一个模糊系统，以目标函数导数的绝对值作为系统输入，以模糊化系数的变化作为输出，使模糊化系数能够自适应调整，从而更好地适应算法的动态聚类过程。最后，在合成数据集、八个 UCI 真实世界数据集和一个不平衡数据集上进行了实验和验证。结果表明，所提出的 GUA_FCM 算法在聚类性能上优于传统方法，并具备更好的适应性和广义通用性。

引言 聚类是数据分析中的基本技术，在统计学、机器学习和数据库系统等领域得到了广泛的研究和应用 [1], [2], [3]。它涉及将一组数据点分组为簇，使得同一簇内的点彼此之间比其他簇中的点更相似。在众多开发的聚类算法中，模糊 C 均值（FCM）算法由于其通过模糊划分处理重叠簇的能力而脱颖而出，成为最经典和广泛使用的方法之一 [4]。然而，传统的 FCM 算法在实际应用中仍存在局限性。近年来，针对这些问题，研究人员提出了各种改进方法以增强 FCM 算法的聚类性能。

首先，特征权重和簇权重的合理设置对于聚类结果的准确性至关重要。传统的 FCM 算法假设所有特征同等重要，未能反映不同特征在聚类过程中的不同影响。在现有的研究文献中，聚类方法可以大致分为两类。第一类是基于特征权重的方法，代表性算法包括加权 K 均值（WKM）[5]、熵权 K 均值（EWKM）[6]、特征降维 FCM（FRFCM）[7]、考虑不同簇中不同数据权重的 FCM（DWDCRFCM）[8] 和特征加权抑制可能性 FCM（FW-S-PFCM）[9]。第二类则侧重于基于簇权重的方法，示例包括具有自动属性权重和簇权重学习的模糊 K 模态聚类（FKMAWCW）[10]，以及簇加权多视图信息瓶颈（CURE）[11]。然而，上述两种方法并未融合特征权重和簇权重的信息，为了解决这个问题，文献 [12] 引入了一种增强的 FCM 算法，在聚类过程中同时进行局部特征加权（FW）和动态簇加权（CW），即 FWCW_FCM，解决了传统 FCM 在特征重要性假设相等和对初始化敏感方面的局限性。文献 [13] 提出了一种基于 FWCW_FCM 的新型半监督模糊 C 均值方法，它同时学习特征权重和簇权重以增强聚类精度，特别是在具有复杂结构或有噪声特征的数据集上。该方法有效地平衡了全局和局部信息，使其在实际应用中具有鲁棒性。

其次，FCM 算法对初始簇中心的选择敏感，不同的初始值可能导致算法收敛到不同的局部最优解。为了降低对初始值的敏感性，一些文献结合各种类型的高级算法来寻找更好的初始簇中心，例如粒子群 [14]、鲸鱼优化算法 [15] 和灰狼算法 [16]。基于粒子群优化的 FCM（PSO-FCM）[17] 利用群体智能全局优化簇中心位置，其中每个粒子代表一组候选簇中心。FCM++ 算法 [18] 采用 K-means++ 初始化策略，通过基于概率的抽样选择初始中心，距离已选中心较远的点被选中的概率更高。此外，还通过改进聚类中的欧氏距离来实现 [19], [20]。以及基于密度峰值聚类（DPC）算法 [21]，通过计算局部密度和与密度较高点的距离来识别簇中心，可以减少算法对初始值的敏感性。在文献 [12] 中，通过加权簇权重也可以减少算法对初始值的敏感性。此外，可变模糊度 FCM（vFCM）[22] 提出在迭代过程中动态改变模糊度参数 m，将其从较大的值减小到接近 1 的值，这有助于算法在早期阶段逃离局部最优，并在后期阶段实现精确聚类。另外，簇间距离信息对聚类性能也有很大影响，而 FCM 仅考虑簇内距离信息，因此构建了新目标函数来融合簇内距离和簇间距离信息 [23], [24]。

此外，尽管基于 FCM 的聚类算法取得了广泛成功，但它们存在一个有据可查的局限性，即“均匀效应”[25]。这种现象产生的原因是 FCM 采用误差平方和目标函数，这固有地倾向于产生数量大致相等的簇。因此，当应用于包含大小显著不同的簇的数据集时，较小簇的簇中心会被吸引到较大的相邻簇，导致数据空间划分不正确。已提出几种方法来解决这一局限性。文献 [26] 引入了簇大小不敏感 FCM（csiFCM），它采用基于先验簇概率的条件值来缓解大簇的吸引效应。随后，文献 [25] 提出了基于完整性且大小不敏感的 FCM（siibFCM），其中结合了簇紧凑性和纯度的“完整性”度量，以保护较小的簇不被吸收。此外，文献 [27], [28] 开发了不平衡度量指数（IMI）及其改进版本 IMI2，作为专门设计用于评估不平衡数据集上聚类结果的有效性指标；然而，这些指标主要作为确定最优簇数的评估指标，而非聚类算法本身。在本文中，我们研究了 GUA_FCM 在不平衡数据集上的行为，并提出了一个增强版本，称为 GUA_UE_FCM，有效地解决了均匀效应。

最后，模糊化系数的自适应调整已成为近年来的研究热点。固定的模糊化系数无法适应算法的动态特性，影响聚类结果的准确性。通过根据数据的分布特性自适应调整模糊化系数，可以提高聚类的灵活性和精度。例如在文献 [22] 中，提出了一种模糊系数根据某个线性函数递减的方法以提高聚类效率。文献 [29] 提出了一种基于遗传算法的直觉模糊 C 均值（IFCM）聚类算法，引入了加权相似度和相关性度量，并利用遗传算法优化模糊化系数和其他参数，显著增强了聚类算法在处理不确定数据方面的性能。

目前与改进 FCM 相关的文献解决了上述一个或两个问题，并未形成一套更具广义通用性和参数自适应的 FCM 算法，这也是我们研究的动力。基于上述文献研究和分析，我们系统考虑了上述问题，提出了一种广义通用自适应模糊 C 均值算法：GUA_FCM，同时与现有文献相比，我们的贡献如下：
1) 提出了一种新的聚类目标函数，该函数基于特征权重和簇权重，同时集成了簇内和簇间距离信息。与 [12], [13], [23], [24] 不同，该目标函数综合考虑了特征权重、簇权重、簇内距离信息和簇间距离信息，从而更准确地描述聚类过程及其特征。
2) 与现有的模糊化系数调整方法 [22], [29] 不同，本文引入了一种模糊系统，以算法目标函数导数的绝对值作为系统输入，以模糊化系数的变化作为输出。这种方法允许模糊化系数自适应调整，从而更好地跟踪算法的动态聚类过程。通过自适应调整模糊化系数，进一步增强了聚类效率。
3) 本文提出了一种广义通用自适应模糊 C 均值聚类算法（GUA_FCM），其特征是能够涵盖各种现有方法，包括 FCM [4]、HCM [30]、RLFWHCM [31]、FWCW_FCM [12] 和 ESSC [23]，作为当 GUA_FCM 中特定参数确定时的特例或变体。这使得所提出的 GUA_FCM 算法具有高度的通用性和普遍适用性。

本文其余部分结构如下。在第 2 节中，我们回顾了经典的 FCM 算法，并分析了 FCM 的一些问题与挑战。第 3 节介绍了本文提出的 GUA_FCM 算法，详细描述了其目标函数、迭代更新策略和关键参数的选择。第 4 节给出了在合成数据集、真实世界数据集和不平衡数据集上的实验结果。第 5 节给出了结论。

章节片段
预备知识 在本节中，我们简要介绍传统的 FCM 算法。此外，我们分析和描述其面临的关键问题。
提出的算法：GUA_FCM 在本节中，我们详细介绍提出的 GUA_FCM 算法。首先，我们概述算法，然后对算法的更新策略进行透彻分析，最后解释算法的关键参数。
实验结果 在本节中，我们将进行实验以验证所提出算法的性能，并将实验结果与其他算法进行比较。首先，为了明确算法中的关键固定参数，最大迭代次数，簇权重系数，收敛误差阈值，初始模糊化系数，模糊化系数的最小值。其次，描述了必要的实验平台和设备。该
结论 本文解决了传统 FCM 算法的局限性，例如未考虑特征权重和簇权重，未充分利用簇内和簇间距离信息，以及固定的模糊化系数限制了算法的适应性。我们提出了一种广义通用自适应模糊 C 均值聚类算法（GUA_FCM）。通过构建一个新的聚类目标函数，该函数集成了特征

CRediT 作者贡献声明
康壮：写作 – 审阅与编辑，写作 – 原稿，可视化，验证，方法论，调查研究，形式分析，数据管理，概念化。
贾利民：写作 – 审阅与编辑，监督，项目管理，资金获取，概念化。
秦勇：监督，资金获取。

利益冲突声明
作者声明他们没有已知的竞争财务利益或个人关系可能会影响本文所述的工作。

致谢
本研究由中央高校基本科研业务费（科技领军人才团队项目）资助，项目编号 2022JBXT009。

康壮于 2018 年和 2021 年分别获得电气工程及其自动化学士学位和工学硕士学位。他目前正在北京交通大学铁路运行控制和安全重点实验室攻读博士学位。目前，他的研究兴趣主要集中在模糊控制和智能控制方面。

康壮 | 贾利民 | 秦勇
北京交通大学交通运输学院，中国北京 100044