基于脉冲神经网络(SNN)的生物启发式半监督图像分类方法研究

【字体: 时间:2025年09月05日 来源:Neurocomputing 6.5

编辑推荐:

  本文创新性地将半监督学习(SSL)与脉冲神经网络(SNN)结合,提出Semi-SNN框架,通过教师-学生蒸馏(teacher-student distillation)和代理梯度下降(surrogate gradient descent)算法,实现低标注成本下的高效图像分类。该方法在CIFAR10/100和SVHN数据集上表现优异,训练耗时仅为Flex Match的37.5%,内存占用降低71.41%,为类脑计算与少样本学习提供新思路。

  

Highlight

• 首次将教师-学生蒸馏SSL范式与脉冲神经网络(SNN)结合,提出更贴近人脑信息处理机制的半监督图像分类算法

• 针对SNN训练效率低的问题,设计包含预热阶段(Burn-In stage)的自适应训练方案,减少37.5%训练时间

• 在CIFAR10子数据集上达到接近最优算法水平的性能,内存占用仅为Flex Match的25%

Semi-supervised image classification

当前半监督图像分类主要采用一致性学习(Consistency Learning)和伪标签(Pseudo-Labeling)两种方法。前者通过扰动未标注图像获取推理一致性,后者利用预训练模型生成伪标签。

Basic framework

如图2所示,我们的框架将先进的SSL范式与SNN结合:对未标注数据施加强弱增强(strong/weak augmentation),弱增强数据输入教师模型生成伪标签,强增强数据与学生模型联合训练。教师模型通过指数移动平均(EMA)从学生模型更新。

Experiment

在CIFAR10/100和SVHN数据集测试中,Semi-SNN相比SNN版Pseudo-Labeling、MixMatch等方法展现出显著优势。特别在400标签的CIFAR10上,准确率提升5.2%,训练迭代速度提高2.67倍。

Conclusion

SSL与SNN的融合是新兴前沿领域。本文首次实现传统半监督技术与SNN的结合,在保持SNN低功耗特性的同时显著降低标注需求。未来需进一步优化时空特征提取和硬件适配。

(注:翻译采用"强弱增强"等生动表述,保留SNN/SSL等术语缩写,使用10等规范格式,去除文献引用标记)

相关新闻
生物通微信公众号
微信
新浪微博
  • 急聘职位
  • 高薪职位

知名企业招聘

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号