基于跨尺度特征融合与知识蒸馏的伪装目标检测网络CFF-KDNet

《Expert Systems with Applications》：CFF-KDNet: Cross-Scale Feature Fusion Network with Knowledge Distillation for Camouflaged Object Detection

本文针对伪装目标检测中正负样本不平衡导致的检测性能下降问题，提出了一种融合跨尺度特征和知识蒸馏的CFF-KDNet网络。该网络通过多尺度解码器增强稀疏正样本感知能力，并利用多层次蒸馏策略减轻负样本干扰，在COD10K等主流数据集上取得了超越现有方法的性能，其基于PVTv2-B2骨干网络的学生模型性能甚至媲美PVTv2-B4模型。

　　

在自然界中，有些生物拥有令人惊叹的伪装能力——它们能将自己的颜色、纹理与周围环境完美融合，让天敌难以察觉。这种巧妙的生存策略如今却给计算机视觉领域带来了巨大挑战：如何让机器像经验丰富的猎人一样，从复杂背景中准确识别出这些"隐藏"的目标？这就是伪装目标检测（Camouflaged Object Detection，COD）研究的核心问题。

随着人工智能技术的快速发展，伪装目标检测在农业害虫监测、医学图像分析和工业缺陷检测等领域展现出重要应用价值。想象一下，在广阔的农田中，能够自动识别出与作物颜色相近的害虫；在医疗诊断中，能够精准分割出与正常组织差异细微的病变区域；在工业生产中，能够及时发现产品表面的微小缺陷——这些都需要强大的伪装目标检测技术作为支撑。

然而，现有的伪装目标检测方法面临着一个严峻挑战：样本不平衡问题。通过对主流数据集的分析发现，伪装目标像素（正样本）仅占图像总像素的8.79%，而背景像素（负样本）却高达91.21%。这种严重的不平衡导致了两个关键问题：一是稀疏的正样本使得模型难以学习到足够的特征表示；二是过多的负样本会干扰模型训练，导致将伪装目标误判为背景。

受到人类视觉系统多尺度观察行为的启发，大连民族大学的研究团队在《Expert Systems with Applications》上发表了一项创新研究，提出了名为CFF-KDNet的跨尺度特征融合网络。该研究巧妙地解决了样本不平衡带来的检测难题，为伪装目标检测领域带来了新的突破。

关键技术方法概述

研究团队采用双阶段训练策略，使用COD10K、CAMO和NC4K数据集进行模型验证。首先设计基于PVTv2-B4的教师模型，通过共享编码器处理原始图像和1.5倍放大图像，利用特征相似性感知（FSP）模块和门控残差模块（GRM）实现跨尺度特征融合。随后通过多层次知识蒸馏，将教师模型的知识迁移到基于PVTv2-B2的学生模型，包括基于原型的特征蒸馏和响应蒸馏，有效提升了轻量级模型的检测性能。

研究结果

整体架构

CFF-KDNet采用两阶段方法解决稀疏正样本和干扰负样本问题。教师模型阶段通过共享编码器和多尺度解码器处理双输入，其中FSP模块通过计算相似度矩阵自适应调整特征权重，GRM模块通过级联密集块结构整合尺度内语义信息。学生模型阶段通过知识蒸馏策略学习教师模型的稳健特征表示和决策能力。

特征相似性感知模块

FSP模块通过计算原始图像与放大图像特征间的相似度矩阵，识别具有高跨尺度一致性的特征区域。该模块能够增强正样本的特征表示，同时抑制不一致特征的干扰，使模型能够从稀疏正样本中提取更鲁棒的语义特征。实验表明，该设计显著提升了模型对伪装目标的感知能力。

门控残差模块

GRM采用动态门控机制对特征重要性进行加权，同时通过残差连接保留原始信息。该模块通过有效整合尺度内特征信息，增强了特征表达能力，进一步解决了稀疏正样本特征表示不足的问题。模块的级联密集块结构确保了多层次特征的充分融合。

多层次知识蒸馏框架

研究团队设计了包含特征级和响应级的蒸馏策略。特征级蒸馏使学生模型能够从教师模型的中间层学习稳健特征表示，响应级蒸馏通过传递教师的最终决策逻辑来稳定输出特性。这种融合损失函数的蒸馏方法有效缓解了负样本干扰，提升了学生模型的判别能力。

数据集与实验设置

在COD10K、CAMO和NC4K三个主流数据集上的实验结果表明，CFF-KDNet在多个评估指标上均优于现有最先进方法。特别值得注意的是，基于PVTv2-B2骨干网络的学生模型通过知识蒸馏后，其性能达到了与PVTv2-B4骨干网络模型相当甚至更优的水平，这体现了该方法的有效性和实用性。

消融实验

通过系统的消融实验验证了各个模块的贡献。FSP模块和GRM模块的协同设计显著提升了模型对稀疏正样本的感知能力，而多层次蒸馏策略有效减轻了负样本干扰。实验还表明，双输入策略（原始图像+1.5倍放大图像）比单一尺度输入或其他多尺度组合具有更好的性能。

结论与讨论

本研究针对伪装目标检测中的样本不平衡问题，提出了创新的CFF-KDNet解决方案。通过多尺度解码器设计有效增强了模型对稀疏正样本的感知能力，而多层次知识蒸馏策略则显著减轻了负样本干扰。该方法不仅在理论上有重要创新，在实际应用中也展现出显著优势——基于轻量级骨干网络的学生模型能够实现与大型模型相媲美的性能，这为在资源受限环境下部署高效的伪装目标检测系统提供了可能。

该研究的成功得益于对人类视觉观察行为的深入理解和巧妙模拟。正如人类在寻找伪装目标时会先进行宏观扫描再聚焦细节一样，CFF-KDNet通过多尺度特征融合实现了类似的检测机制。未来，这种方法论不仅可应用于伪装目标检测，还可推广到其他存在样本不平衡问题的计算机视觉任务中，具有广阔的应用前景和研究价值。

研究团队在GitHub上公开了代码实现，为后续研究提供了重要基础。这项工作为解决计算机视觉领域的样本不平衡问题提供了新思路，特别是在农业、医疗和工业等关键领域的实际应用中具有重要意义。随着技术的不断完善，我们有理由相信，未来的智能系统将能够更加精准地识别那些"隐藏在我们眼前"的重要目标。