在轨图像解释神经网络的轻量化度量与通用轻量化设计框架

《IEEE Transactions on Geoscience and Remote Sensing》：Lightweightability Measurement and A General Lightweight Design Framework for On-Orbit Image Interpretation Neural Networks

卫星在轨遥感图像智能解读需解决轻量化神经网络设计中的三问题：设计模式低效、缺乏性能影响分析、忽略操作间相互影响。本文提出轻量化度量模型和GLD框架，通过知识蒸馏、剪枝和量化的动态联合优化，结合元学习评估各技术适用性，并分析其交互影响，实验验证了方法的有效性和优越性。

　　

摘要：

卫星在轨遥感图像的智能解析依赖于计算资源极为有限的在轨设备，这些设备利用通过轻量化方法设计的先进神经网络来实现对在轨遥感图像的快速准确解析。然而，当前轻量级神经网络的设计存在三个突出问题：首先，普遍采用的“一刀切”式轻量化设计模式效率低下；其次，缺乏对轻量化操作对网络性能影响的分析；第三，忽视了各种轻量化操作之间的相互影响。为了解决这些问题，首先，我们提出了一种神经网络轻量化度量模型及其计算方法，通过研究各种轻量化操作的影响来进行评估；其次，我们提出了一个专为卫星在轨遥感图像智能解析设计的通用轻量化设计框架（GLD）。具体而言，GLD基于元学习方法，将知识蒸馏（KD）、剪枝和量化三种通用轻量化技术整合到一个框架中。该框架能够动态评估神经网络的蒸馏能力、剪枝能力和量化能力，并利用这些评估结果作为监督信息，动态优化KD、剪枝和量化过程，使其适用于各种主流神经网络；此外，我们还基于GLD探讨了轻量化操作之间的相互影响；最后，通过消融实验和对比实验进一步验证了GLD的有效性和优越性。