一种用于资源受限边缘设备上高效多物种识别的数据-模型协同压缩方法

《Engineering Applications of Artificial Intelligence》：A data-model co-compression approach for efficient multi-species recognition on resource-constrained edge devices

　　•数据-模型协同压缩统一了三种作物中的22个疾病类别。
•50%核心集在准确率上距离全数据仅差0.45个百分点。
•朴素剪枝加密集微调在静默中几乎恢复了所有被置零的权重。
•动态量化仅转换分类器：节省29.2%的存储空间。
•非结构化稀疏性在商用移动后端上未带来加速。
引言
及时准确的植物病害诊断对全球粮食安全至关重要，但由于依赖缓慢且主观的专家检查，许多农民仍无法获得这一服务。人工智能驱动的图像识别提供了一种有前景的替代方案，但在资源受限设备上部署深度学习模型，尤其是在缺乏可靠互联网连接的偏远地区，带来了根本性的工程挑战：模型体积大、推理速度慢，以及覆盖多种作物物种时存储空间的线性增长。因此，压缩这些模型以便在商用硬件上实现实时离线运行，对实际田间应用至关重要。
当前研究主要依赖诸如PlantVillage等精选公共数据集，该数据集涵盖14种作物物种（Mohanty等，2016）。然而，许多具有经济重要性的作物，如杨梅（Myrica rubra），未出现在这些基准数据集中。为弥补这一空白，我们构建了自采集的杨梅数据集（4类，600张图像）。该数据集提供了一个独立的评估域，因为杨梅未出现在任何公共基准中。为捕捉通常出现在叶片背面的病害症状，部分样本被摘下拍摄，其余则在自然果园条件下直接拍摄。这种采集策略反映了田间病害诊断的实际现实。
为解决模型体积瓶颈，知识蒸馏、网络剪枝和参数量化等主流压缩技术已被广泛采用。这些方法通常单独应用或以简单配对方式应用，很少关注田间采集图像数据中固有的冗余性。病害图像通常包含在光照、角度和生长阶段变化下的高度重复样本，这促使通过核心集选择进行数据级压缩。核心集理论确立了存在一个小子集，能在有界误差内逼近完整数据集的经验风险（Agarwal等，2005），子集大小取决于数据的内在维度而非原始数据量。该界限在深度网络尺度上是否具有信息量是另一个问题，我们在附录A中进行了检验。
现有的病害识别模型此外主要按作物单独训练并独立部署，因此总部署量随作物物种数量增长。为减少这种增长，我们提出了一种数据-模型双层次协同压缩方法，在单一流水线中同时处理数据冗余和模型膨胀。在数据层面，k-center贪心算法选择番茄训练样本的代表性子集，在50%选择率下将总训练数据量减少约42%；黄瓜和苹果数据集则完整保留。
在模型层面，由知识蒸馏、基于幅度的权重剪枝和动态量化组成的三阶段流水线将ResNet-50教师模型压缩为MobileNetV3-Small学生模型。两个层次按顺序而非联合优化执行，它们之间的相互作用通过实证表征。我们在黄瓜（8类）、番茄（10类）和苹果（4类）上作为统一的22类任务进行评估。该流水线还以重新调优的超参数应用于自采集的杨梅数据集；这是重新应用而非零样本迁移测试，因为闭集分类器无法分配其未训练过的类别。
本文的贡献如下。
1. 一种具有表征化相互作用结构的数据-模型协同压缩流水线，以完全离线的Android原型实现，并在两个芯片平台上进行基准测试（从拍摄图像到结果耗时350至480毫秒）。数据级缩减首先运行，模型级阶段在其输出上训练，因此两个层次相互作用，应用顺序至关重要；该相互作用及其顺序效应通过实证表征。
2. 在16,798张图像的训练子集上对六种数据选择策略进行匹配预算比较，每种策略使用在同一子集上训练的各自教师模型进行评估，从而将选择策略与单纯减少冗余的效果分离开来。k-center贪心在损失0.45个百分点准确率的情况下将训练数据减少42%，该差异在此预算下配对检验无法分辨，其在均匀随机子采样上的优势在三个种子中的两个种子的逐样本预测中可测量，但并非在所有聚合指标上均可测量。
3. 在1、2和3个物种（8、18和22类）下进行的物种扩展研究，将恒定骨干成本与线性增长的分类型头部分离开来。序列化大小在1至3个物种间保持在4.24至4.25兆字节之间，远低于每物种一个模型的大小，因为卷积骨干及其算术运算被共享，而只有分类器头部随类别数量增长。
4. 对压缩实际效果进行逐阶段审计，有两个发现。第一，剪枝结果可能是后续微调的产物：不保留掩码时，密集优化器会恢复几乎所有被置零的权重，模型实际上未被剪枝，实测稀疏度为0.746%而非预期的30%，而保留掩码则精确保持目标值。第二，动态量化仅转换转换器支持的模块组，对于此深度可分离骨干网络即为两个分类器层，因此85.6%的权重字节仍为单精度，实现的存储缩减为29.2%，与命题2推导的结构性上限相差在一个百分点以内。
5. 在类别不平衡测试集上的指标分离：压缩模型在宏F1和平衡准确率上超过全数据基线，但在总体准确率上落后于基线，这种分裂被单一准确率数字所掩盖。Wilson得分区间和配对McNemar检验支持该比较，完整的22×22混淆矩阵作为机器可读补充数据发布。
本文其余部分组织如下。第2节回顾了模型压缩、数据选择和核心集理论以及植物病害识别的相关工作。第3节描述了多物种数据融合、核心集选择和三阶段压缩流水线。第4节呈现实验结果，包括选择策略比较、组件和顺序消融、参数敏感性、量化审计、统计评估、物种扩展研究和移动部署。第5节提供结果的物理和机制解释。第6节总结发现、陈述局限性并概述未来方向。
章节片段
深度学习模型压缩
知识蒸馏（Hinton等，2015）训练轻量级学生模型以模仿较大教师的软化输出分布，传递硬标签编码之外的类间相似性结构。近期研究表明，传递信号的粒度与数量同等重要：细粒度蒸馏方法识别出交叉编码器教师和轻量级学生操作粒度之间的不匹配，并通过对齐整体方法来校正
总体方法
本文提出了一种数据-模型双层次协同压缩方法，用于资源受限设备上的高效多物种识别，如图1所示。两个层次按顺序应用：数据级阶段缩减训练集，模型级流水线随后压缩在该缩减集上训练的网络。
（1）数据级压缩：核心集选择。一个ImageNet预训练的ResNet-50从番茄训练集（16,798张图像）中提取2048维特征。
实验设置
数据集。实验使用三个公共作物病害数据集和一个自采集数据集。
公共数据集。黄瓜数据集（Sultana和Akter，2022）包含8个类别（炭疽病、细菌性萎蔫病、脐腐病、霜霉病、鲜黄瓜、鲜叶、蔓枯病、腐霉果腐病），约1289张图像。番茄数据集（Mohanty等，2016）包含10个类别（细菌性斑点病、早疫病、晚疫病、叶霉病、叶斑病、二斑叶螨
物理和机制解释
上述结果是定量的，仅定量解释无法说明流水线为何如此表现。本节提供机制解释。
结论、局限性和未来工作
本文提出了一种数据-模型双层次协同压缩方法，用于资源受限设备上的多物种植物病害识别。在数据层面，核心集选择移除冗余训练样本。在模型层面，由知识蒸馏、基于幅度的权重剪枝和动态量化组成的三阶段流水线将大型教师模型压缩为轻量级学生模型。两个层次按顺序而非联合优化，我们表征了它们的相互作用
CRediT作者贡献声明
Meixuan Ren：写作——初稿、可视化、验证、软件、方法学、调查、正式分析、数据管理。Yaoran Chen：写作——审阅与编辑、监督、资源、项目管理、概念化。
生成式AI和AI辅助技术在手稿准备过程中的声明
在准备本工作期间，作者使用了基于大语言模型的AI助手DeepSeek，以提高文本的清晰度、可读性和语法准确性。使用该工具后，作者根据需要审查并编辑了内容，并对所发表文章的内容承担全部责任。
利益冲突声明
作者声明以下可能被视为潜在利益冲突的财务利益/个人关系：Meixuan Ren拥有一项专利申请号#2026109059395，申请中，归属上海大学。如有其他作者，他们声明没有已知的竞争性财务利益或个人关系可能影响本报告的工作。
致谢
本研究未获得公共、商业或非营利部门资助机构的任何特定资助。
Meixuan Ren|Yaoran Chen