在轻型飞机通用视觉检查中，为无人机系统上的机载缺陷检测实施知识蒸馏技术

《Machine Learning with Applications》：Implementation of knowledge distillation for onboard defect detection on an unmanned aircraft system for light aircraft general visual inspections

本文提出了一种基于知识蒸馏和迁移学习的轻量级图像分类模型，用于检测飞机表面的三类缺陷（损坏皮肤、缺失/损坏铆钉、缺失板面）及无缺陷状态。通过迁移学习将预训练的ResNet-50模型适配到飞机缺陷数据集，再利用知识蒸馏压缩为SqueezeNet模型，最终在验证集上达到95.37%的准确率，模型大小减少96.9%至2.66MB，适用于无人机等嵌入式设备部署。摘要分隔符：

　　在航空领域，视觉检查是维护人员日常操作中不可或缺的环节。然而，这类检查往往耗时较长，且容易受到人为误差的影响。为了应对这些挑战，研究团队提出了一种基于图像分类的解决方案，利用迁移学习和知识蒸馏技术，在MATLAB平台上开发了一个高效且可部署的模型。该方法旨在提高缺陷检测的效率和准确性，从而减轻地面人员的工作负担，使无人飞行器系统（UAS）能够过滤掉无缺陷的图像，确保检测结果的可靠性。

迁移学习和知识蒸馏是两种常用的机器学习技术，能够有效提升模型性能，同时减少计算资源的需求。在本研究中，ResNet-50被选为教师模型，因其在图像分类任务中表现出较高的准确率和计算性能。而SqueezeNet作为学生模型，具有轻量级的结构，适用于资源受限的嵌入式系统。通过知识蒸馏，学生模型能够从教师模型中学习到关键的分类知识，从而在保持较高准确率的同时，显著减小模型体积，提高其在实际部署中的可行性。

研究团队通过收集来自南爱尔兰技术大学航空航天与机械工程系机库中的245张图像，构建了一个包含四种缺陷类别和无缺陷类别的数据集。这些类别包括：损坏的蒙皮、缺失或损坏的铆钉、面板缺失以及无缺陷。为应对数据不平衡问题，研究团队采用过采样方法，使每个缺陷类别在训练集中的样本数量达到588张，从而提升模型对稀有缺陷类别的识别能力。此外，研究还利用了Albumentations库进行图像增强，包括水平和垂直翻转、旋转等操作，生成了每个图像的八种变体，最终获得了1960张训练图像。

在模型开发过程中，研究团队首先使用迁移学习对ResNet-50模型进行微调，使其能够准确分类航空器缺陷。随后，通过知识蒸馏技术，将教师模型的知识转移到学生模型（SqueezeNet）中。这一过程不仅包括硬标签（ground-truth annotations）的监督学习，还引入了软标签（teacher’s softened output probabilities）以提供更丰富的类别间关系信息。通过调整温度（T）和alpha（α）这两个关键超参数，研究团队优化了知识蒸馏的损失函数，从而提升了学生模型的性能。

实验结果显示，知识蒸馏后的SqueezeNet模型在验证集上取得了95.37%的准确率，而在测试集上达到了90.72%的推理准确率，模型体积减少了96.9%。相比之下，教师模型ResNet-50在验证集上取得了98.20%的准确率，但其体积较大，为85.77 MB。而学生模型仅需2.66 MB的存储空间，使其更适合部署在嵌入式系统中，例如NVIDIA Jetson Nano。这一结果表明，知识蒸馏技术在保持教师模型性能的同时，显著降低了模型的计算需求，为航空器缺陷检测提供了更高效的解决方案。

在模型评估过程中，研究团队使用了精度（precision）、召回率（recall）和F1分数等指标，以衡量不同类别在验证集和测试集上的表现。结果显示，知识蒸馏后的学生模型在多个类别上表现优于仅通过迁移学习训练的模型。例如，在验证集上，SqueezeNet模型的平均精度和召回率分别达到了95.35%和94.31%，而教师模型的平均精度和召回率分别为99.00%和97.62%。虽然学生模型在整体性能上仍略逊于教师模型，但其在资源受限环境中的优势使其成为实际应用的优选方案。

在测试集上，知识蒸馏后的学生模型的平均精度和召回率分别为91.67%和91.11%，而教师模型的平均精度和召回率分别为98.30%和97.04%。尽管如此，学生模型的性能仍然优于未经过知识蒸馏的SqueezeNet模型。这些结果表明，知识蒸馏技术在降低模型体积的同时，能够有效保留教师模型的关键性能，从而在实际部署中实现较高的检测准确率。

然而，研究也指出了当前方法的一些局限性。首先，由于数据集的规模有限，模型在处理罕见缺陷类别时可能表现不佳。其次，光照和视角的变化可能影响模型的分类效果，特别是在户外环境中。此外，当前模型仅实现图像分类，未能提供缺陷的具体位置信息，这在实际维护过程中可能限制其应用。因此，未来的研究可以考虑结合目标检测技术，如R-CNN或YOLOv8，以明确缺陷的位置，从而提升系统的实用性。

研究团队还提到，未来的工作可以扩展数据集，以涵盖更多的缺陷类别，例如腐蚀、裂纹、凹陷和油漆剥落或划痕等。同时，可以引入更先进的图像增强技术，如RGB偏移、随机亮度和对比度调整，以提升模型对各种环境条件的适应能力。此外，飞行测试也是未来研究的重要方向，通过实际部署在UAS上，评估模型在实时操作中的性能，包括延迟和处理速度等关键指标。

综上所述，该研究为航空器缺陷检测提供了一种高效且可部署的解决方案，利用迁移学习和知识蒸馏技术，将大型模型的性能转移到小型模型中。尽管存在一些挑战和局限性，但研究结果表明，这种方法在提高检测效率和准确性方面具有显著优势。未来的研究可以进一步优化模型，结合目标检测技术，并扩展数据集以提升系统的全面性和实用性，从而推动航空器维护过程的自动化和智能化发展。