基于模糊泄漏积分点火神经元的增量式聚类算法

《Connection Science》:Fuzzy leaky integrate-and-fire clustering algorithm

【字体: 大 中 小 】 时间:2026年10月08日 来源:Connection Science 3.0

编辑推荐:

  专业术语翻译的论文摘要 本文提出了一种新颖的无监督聚类算法,它将增量式模糊C均值(FCM)聚类与离散泄漏积分点火(LIF)神经元模型相结合。该方法通过优化聚类目标函数来推导并更新LIF神经元的突触权重,从而促进增量式和完全无监督的学习。聚类形成基于基于脉冲计数

  
专业术语翻译的论文摘要 本文提出了一种新颖的无监督聚类算法,它将增量式模糊C均值(FCM)聚类与离散泄漏积分点火(LIF)神经元模型相结合。该方法通过优化聚类目标函数来推导并更新LIF神经元的突触权重,从而促进增量式和完全无监督的学习。聚类形成基于基于脉冲计数的神经元响应,每个神经元代表一个聚类的原型。研究人员使用合成生成的数据集和来自UCI机器学习库的基准数据集展示了所提出方法的有效性。聚类性能通过混淆矩阵和归一化互信息(NMI)进行评估,结果表明该方法与传统聚类技术相比具有竞争力,在某些情况下甚至更优。所提出的算法展现出若干有利特性,包括对大数据集的可扩展性、计算效率、与经典聚类方法的结构相似性、对新数据集的适应性以及适用于神经形态实现的优势,这能在能效、处理速度和容错性方面带来益处。

论文解读文章

研究背景与问题

聚类分析旨在将数据根据相似性度量划分为不同组别,是数据挖掘领域的核心技术之一。传统硬聚类方法边界清晰,但难以处理重叠簇;模糊聚类(如模糊C均值,FCM)允许数据点同时隶属于多个簇,但通常以批量方式进行,缺乏在线增量学习能力。另一方面,脉冲神经网络(SNN)因其高激活稀疏性和低延迟,在计算效率和神经形态硬件实现上展现出巨大潜力,但其在无监督聚类任务中的应用尚不充分。现有SNN训练方法多依赖间接转换或复杂的梯度替代法,缺乏一种直接、高效且能与经典模糊聚类理论相衔接的增量式学习框架。因此,如何将模糊聚类的理论优势与脉冲神经网络的生物合理性和硬件友好性相结合,开发出一种可增量学习、可扩展且性能优异的聚类算法,成为本研究亟待解决的关键问题。

研究内容与结论

研究人员开展了一项创新性研究,成功地将增量式模糊C均值(FCM)聚类的机制与离散泄漏积分点火(LIF)神经元模型相融合,提出了一种全新的无监督聚类算法。该算法的核心创新在于直接从优化的聚类目标函数中推导并更新LIF神经元的突触权重,实现了真正的增量式无监督学习。实验表明,该算法在合成数据集和UCI机器学习库的多个基准数据集(包括鸢尾花Iris、红酒Wine、乳腺癌Breast Cancer、人脸ORL、手写数字MNIST、时尚物品Fashion-MNIST、神经形态MNIST及动态视觉传感器手势DVS128 Gesture数据集)上均表现出色。通过混淆矩阵和归一化互信息(NMI)进行验证,其聚类性能不仅可与传统K-means等算法竞争,在多数情况下甚至更为优越。该研究的重大意义在于,它首次在模糊聚类理论与脉冲神经网络的计算之间建立了直接联系,为发展兼具可扩展性、计算效率、增量学习能力和神经形态硬件兼容性的新一代智能聚类系统奠定了坚实基础。

关键技术方法概述

为实现上述研究,研究人员主要运用了以下关键技术方法:首先,采用离散泄漏积分点火(LIF)神经元模型模拟神经元膜电位的积累与发放过程,将输入数据编码为泊松脉冲序列。其次,利用增量式模糊C均值(FCM)聚类框架,以在线方式逐个处理数据点,并根据模糊隶属度更新所有聚类中心。最关键的是,研究人员提出了一个空间到时间映射函数,将FCM优化得到的静态最优聚类中心和隶属度矩阵转换为LIF神经元的动态突触权重目标值。随后,通过随机梯度下降(SGD) 最小化一个瞬时二次跟踪误差目标函数,驱动LIF权重向该目标值逼近,从而将模糊聚类的空间信息嵌入到脉冲神经网络的时序动力学中。

研究结果

3.3 LIF权重推导:研究人员从LIF神经元的基本动力学方程出发,推导出若要使神经元对特定输入产生连续脉冲,其突触权重应与输入值成反比。这一发现奠定了将权重与聚类中心关联的基础,即权重应趋向于阈值电压除以时间步长与最近聚类中心的比值。
3.4 LIF聚类算法:研究人员给出了完整的LIF聚类算法流程。算法首先初始化聚类中心和LIF权重为零。对于每个输入数据点,计算其到所有中心的距离和模糊隶属度。然后,根据模糊隶属度的平方加权更新所有聚类中心。接着,利用空间到时间映射函数生成的跟踪目标更新LIF权重。最后,通过LIF神经元模型计算该输入产生的总脉冲数。此过程迭代进行,直至学习率衰减至足够小,算法收敛。
3.5 空间到时间映射——权重更新:研究人员在此详细阐述了连接静态FCM与动态LIF的核心桥梁。他们定义了一个空间到时间目标变量Ti,该变量由所有聚类中心的倒数(经Vth/dt缩放)与其对应模糊隶属度加权求和而成。此设计确保了:靠近某聚类中心的数据点会主导该中心对应的频率目标,而远离的数据点贡献则被抑制。随后,通过最小化目标Ti与实际权重Wi之间的二次误差,利用随机梯度下降更新权重,使LIF神经元的脉冲行为精确反映数据的模糊聚类结构。
4.2 仿真结果:在合成高斯分布数据集上的实验显示,即使在高噪声(大方差)导致数据严重重叠的情况下,LIF算法仍能将不同簇的数据点在脉冲计数空间内清晰地分离开来。例如,对于三个簇的数据,各簇分别产生约100、300和500个脉冲,区分度极高。
4.3 混淆矩阵与归一化互信息:通过混淆矩阵对比,在第一个三簇合成数据集上,LIF算法仅产生12个错误,而K-means算法有16个错误。在第二个四簇数据集上,随着方差增大,K-means的错误显著增加,而LIF算法的混淆矩阵对角线元素更高,显示出更强的鲁棒性。
4.4 鸢尾花数据集混淆矩阵:在经典的鸢尾花数据集上,LIF算法对Setosa类实现了零错误分类,对Versicolour和Virginica类的分类正确率也优于K-means,整体表现更佳。
4.5 红酒数据集混淆矩阵:在维度更高的红酒数据集上,LIF算法同样展现出优势,其混淆矩阵的对角线数值普遍高于K-means,证明了其在多维特征空间中依然有效。
4.6 乳腺癌数据集:实验结果进一步证实了LIF算法在处理医学数据时的可靠性。
4.7 ORL人脸数据集:在包含40个类别、图像维度高达10304的人脸识别任务中,LIF算法成功完成了聚类任务,展示了其处理高维数据的能力。
4.8 MNIST与Fashion-MNIST:在手写数字和时尚物品数据集上,LIF算法取得了具有竞争力的聚类精度。
4.9 N-MNIST与DVS128手势数据集:在事件驱动的神经形态数据集上,LIF算法作为脉冲神经网络,天然适配此类数据格式,并展现了良好的性能。

讨论与结论

讨论部分:研究人员指出,所提出的LIF聚类算法在计算复杂度上与FCM或自适应共振理论(ART)网络相当。算法的收敛性依赖于初始学习率α的选择,过大的初始值可能导致发散。该算法的一个关键优势是其脉冲计数输出可直接用于神经形态硬件的读出层,无需额外转换。此外,脉冲计数对噪声和时间波动具有天然的鲁棒性。
结论部分:本文提出了一种结合增量式模糊C均值(FCM)聚类与离散泄漏积分点火(LIF)神经元模型的创新无监督聚类算法。该算法通过在脉冲神经网络框架内优化一个源自FCM的目标函数来推导并更新LIF神经元的突触权重,实现了增量式和完全无监督的学习。在合成数据集和多个UCI基准数据集上的实验表明,其聚类性能具有竞争力,且在部分场景下优于传统方法。该算法具备可扩展性、计算效率高、与经典聚类方法结构相似、易于适应新数据集以及适合神经形态实现等多重优点,在能效、处理速度和容错性方面展现出巨大潜力。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号