基于边界引导特征对齐的对抗性语义校正蒸馏方法在目标检测中的应用

《Expert Systems with Applications》：Adversarial Semantic Correction Distillation with Boundary-guided Feature Alignment for Object Detection

　　马超群|刘伟斌|邢薇薇|赵正阳•提出一种新的蒸馏框架ASCD，用于提升物体检测性能。•BGLD模块可增强特征对齐效果并抑制背景噪声。•ADA与TSC模块则负责实现分布对齐及高层语义对齐。•实验表明，ASCD在多种检测器上均展现出良好的效果与通用性。

引言
得益于深度学习的快速发展，计算机视觉在诸多核心任务上取得了显著进展，如图像分类（Gou, Chen, Yu, Liu, Du, Wan, Yi, 2024；Salamah, Hamidi, Yang, 2025）、语义分割（Sung, Kim, An, Lee, Lim, Myung, 2024；Zhou, Wang, Gao, Kang, Ou, Lu, 2024），以及复杂成像条件下的图像恢复（Wen, Gao, Chen, Li, Liu, Liu, 2025a；Wen, Gao, Li, Zhang, Zhang, Chen, 2025b），这些技术都已被广泛研究并成功应用。在此背景下，作为计算机视觉中的关键任务，物体检测在行人检测（Park, Kim, Ro, 2024；Zhang, Zeng, Jin, Qian, Luo, Liu, 2024）、自动驾驶（Badjie, Cecílio, Casimiro, 2025；Shi, Li, Yamaguchi, Zhang, 2025）以及工业缺陷检测（Liu, Li, Zuo, Zhao, Lu, 2023；Zeng, Wu, Wang, Li, Liu, Liu, 2022）等领域展现出重要的实用价值。随着应用需求的不断增长，精确且实时的检测与定位能力已成为现代自动检测系统不可或缺的功能。目前的检测器通常采用更深层、更复杂的骨干网络来提升检测精度与稳定性，但这类设计往往会增加模型规模与计算成本。例如，基于ResNet-101的检测器虽性能强劲，但其推理延迟与内存消耗也显著更高；而像ResNet-50这样的轻量级骨干网络虽然效率更高，但检测精度往往有限。我们在物体检测任务中对比了这两种模型的预测分布，如图1所示：大型模型在分类置信度与定位精度之间表现出更强的一致性，其预测结果多集中在高置信度、高精度的区域（点聚集在右上角）；而轻量级模型虽然分类精度相对较高，但定位精度不足（点聚集在左角）。在性能与效率之间的这种权衡，尤其是在移动设备、嵌入式系统等资源有限的平台上，已成为实际应用的主要障碍。因此，在保持检测性能的同时降低模型复杂度与计算量，依然是一项重要挑战。

为应对这一矛盾，人们提出了许多模型压缩与加速方法，其中知识蒸馏（KD）（Hinton, Vinyals, & Dean, 2015）已成为有效的模型压缩手段。KD的核心思想是将大型、高性能的教师模型中的知识传递给结构紧凑、效率更高的学生模型，从而使学生模型在降低复杂度的同时仍能保持良好性能。受此启发，研究人员将KD技术延伸到了物体检测领域。如图2(a)所示，基于特征的蒸馏方法借鉴了FitNets（Romero et al., 2015）的思想，引导学生模型模仿教师模型的中间特征；而基于预测的蒸馏方法（图2(b)）则是从教师模型的预测结果中学习。还有一些研究结合了特征蒸馏与预测蒸馏（图2(c)），以期获得更好的性能。然而，由于物体检测任务的复杂性，该领域的KD技术发展相对缓慢。一方面，物体检测需要同时进行分类与回归学习，且不同检测器的结构与优化目标存在差异，这使得难以设计出统一的蒸馏策略；另一方面，多尺度特征与跨层次的语义差异进一步增加了蒸馏的难度。因此，直接将通用的蒸馏技术应用于物体检测，往往无法取得理想的改进效果。

近年来，针对物体检测的知识蒸馏技术越来越受到关注，由此出现了DrKD（Lv, Cai, He, & Li, 2025）、FGD（Yang et al., 2022）、PKD（Cao et al., 2022）和LD（Zheng et al., 2022）等代表性方法。这些方法从不同角度提升了检测蒸馏的效果：DrKD通过分离基于预测的蒸馏步骤，更好地将教师模型的知识传递给学生检测器；FGD结合全局与局部注意力机制，引导学生模型聚焦于更具区分度的区域；PKD则利用统计相关性度量来建模教师模型与学生模型的预测结果，从分布层面促进知识传递；LD（Zheng et al., 2022）则专注于密集场景下的定位误差问题，从教师模型中提取与定位相关的信息。尽管现有方法已提升了检测蒸馏的效果，但仍存在三方面局限：首先，特征模仿通常是在整个特征图上或随机选取的候选区域内进行的，这可能导致背景区域的响应干扰对前景物体的监督作用；其次，由于容量与架构上的差异，教师模型与学生模型的预测结果可能存在较大偏差，而仅靠L2距离或KL散度这类点对点距离度量无法完全反映这种差异；此外，近期在视觉表示学习领域的研究也强调了除了简单的点对点匹配之外，采用保留结构特征、兼顾分布特性的正则化方法的重要性（Wen, Gao, Li, Zhang, Zhang, Chen, Liu, 2026a；Wen, Gao, Liang, Zhang, Li, Qin, Chen, 2026b）。最后，传统的教师模型到学生模型的监督机制无法直接对student检测头学到的特征表示进行正则化，这限制了高层知识的传递。而且，这些局限性往往被单独处理，各蒸馏目标之间缺乏足够的协调。

为解决上述问题，我们提出了对抗式语义校正蒸馏（ASCD），如图3所示。ASCD包含三个仅在训练阶段使用的模块：边界引导局部蒸馏（BGLD）利用真实框构建物体掩码，将特征对齐重点放在前景区域；对抗式分布对齐（ADA）通过引入轻量级的判别器来缩小教师模型与学生模型预测结果之间的差异；教师语义校正（TSC）则将教师模型的特征输入student检测头，并通过多尺度对比学习来优化检测头的特征表示学习。这些模块仅在训练阶段起作用，因此不会增加推理阶段的复杂度。

我们的贡献可总结如下：
•我们提出了ASCD这一统一的物体检测蒸馏框架，它同时考虑空间约束、预测分布对齐以及语义结构校正，从而提升了教师模型与学生模型之间知识传递的质量。
•我们设计了BGLD模块，该模块利用真实物体边界明确限定蒸馏区域，仅在与物体相关的区域内进行特征对齐，有效抑制了背景干扰，提升了空间的区分能力。
•我们还开发了ADA与TSC模块：对抗式学习可隐式地对预测分布进行对齐，而多尺度对比学习则能显式地修正student检测头的高层语义结构，进一步提升学生模型的语义一致性。
•在COCO与PASCAL VOC数据集上的大量实验表明，ASCD具有很强的稳定性与泛化能力，能够在不同类型的检测器以及不同的骨干网络架构下持续提升检测性能。

章节节选
物体检测
物体检测是计算机视觉中的基础任务，其目标是识别图像或视频中的物体类别，并用边界框标出它们的位置。该任务通常包含两个相互关联的子任务：分类与边界框回归。根据检测流程，检测器一般可分为两阶段检测与单阶段检测两类。两阶段检测器（He, Gkioxari, Dollár, Girshick, 2017；Ren, He, Girshick, Sun, 2015）首先生成区域候选框，然后再进行后续处理。

知识蒸馏
知识蒸馏（KD）的目的是将大型、高容量的教师模型所学到的知识传递给结构较轻量的学生模型（Gao, Qin, Xiang, Tan, 2025；Zhang, Zhou, Xie, Ma, Huang, 2025b）。通过学习教师模型的预测结果，学生模型仅需更少的参数与更低的计算成本即可达到相近的性能水平。我们将教师模型与学生模型分别记为Ft(?·?)与Fs(?·?)。对于输入样本x∈RC×H×W，教师模型与学生模型会分别对其进行处理。

方法
在本节中，我们将介绍用于物体检测蒸馏的对抗式语义校正蒸馏（ASCD）框架。ASCD由三个相互补充的组件构成：边界引导局部蒸馏（BGLD）模块、对抗式分布对齐（ADA）模块以及教师语义校正（TSC）模块。下面我们将详细介绍每个模块的功能。

实验
在本节中，我们通过大量实验对所提出的ASCD方法在物体检测任务上的表现进行评估，并详细汇报其性能指标。

结论
在本文中，我们提出了对抗式语义校正蒸馏（ASCD）这一统一的框架，用于实现物体检测中更为稳健的知识传递。ASCD通过融合前景感知的特征对齐、对抗式预测匹配以及检测头层面的语义正则化机制，来提升学生检测器的性能。具体而言，BGLD模块将特征蒸馏的重点放在与物体相关的区域；ADA模块通过对抗式学习减少预测分布的偏移；而TSC模块则有助于提升学生模型的语义一致性。

CRediT作者贡献说明
马超群：概念设计、方法设计、软件实现、验证分析、形式化分析、研究工作、初稿撰写、审稿与编辑、可视化处理。刘伟斌：概念设计、方法设计、研究指导、资源协调、初稿撰写、审稿与编辑、项目管理工作。邢薇薇：概念设计、方法设计、研究工作、审稿与编辑、资金筹措工作。赵正阳：研究工作、资源协调、审稿与编辑工作。

利益冲突声明
作者声明不存在任何可能影响本文研究工作的已知财务利益关系或个人关系。