超越伪标签:双级别知识蒸馏以提升深度聚类性能

《Algorithms》:Beyond Pseudo-Labels: Dual-Level Knowledge Distillation for Enhanced Deep Clustering

【字体: 大 中 小 】 时间:2026年09月03日 来源:Algorithms 2.6

编辑推荐:

   摘要

  

摘要

本研究提出了一种新的聚类方法,即基于教师-学生的深度聚类(TSDC),该方法依赖于内部和内部蒸馏的特征表示。实际上,TSDC从较深的层次到较浅的层次传递知识,从而增强表示的一致性。与依赖于伪标签来改进表示的基于CNN的深度聚类不同,TSDC引入了一个新制定的目标函数,以同时最小化聚类和内部及内部蒸馏的损失。该方法使用基准数据集和相关性能指标进行了严格测试。特别是,采用了一种线性顶层分类器协议来评估TSDC的性能。值得注意的是,TSDC的性能优于现有的深度聚类框架,提高了分类准确率。实证研究结果突显了结合内部和内部蒸馏来丰富特征表示的有效性。在CIFAR-100数据集上观察到了最显著的改进,分类准确率从54.77 ± 0.07提高到57.58 ± 1.85。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号