超越伪标签:双级别知识蒸馏以提升深度聚类性能
《Algorithms》:Beyond Pseudo-Labels: Dual-Level Knowledge Distillation for Enhanced Deep Clustering
【字体:
大
中
小
】
时间:2026年09月03日
来源:Algorithms 2.6
摘要
本研究提出了一种新的聚类方法,即基于教师-学生的深度聚类(TSDC),该方法依赖于内部和内部蒸馏的特征表示。实际上,TSDC从较深的层次到较浅的层次传递知识,从而增强表示的一致性。与依赖于伪标签来改进表示的基于CNN的深度聚类不同,TSDC引入了一个新制定的目标函数,以同时最小化聚类和内部及内部蒸馏的损失。该方法使用基准数据集和相关性能指标进行了严格测试。特别是,采用了一种线性顶层分类器协议来评估TSDC的性能。值得注意的是,TSDC的性能优于现有的深度聚类框架,提高了分类准确率。实证研究结果突显了结合内部和内部蒸馏来丰富特征表示的有效性。在CIFAR-100数据集上观察到了最显著的改进,分类准确率从54.77 ± 0.07提高到57.58 ± 1.85。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号