《Intelligent Systems with Applications》：GWOEdgeNet: An ultra-lightweight neural network for efficient real-time Rosa damascena maturity classification on edge devices
编辑推荐：
精确及时的大马士革玫瑰（Rosa damascena）成熟度分类对收获调度和玫瑰衍生产品质量至关重要，但在边缘硬件上部署深度模型受到计算和内存预算的限制。研究人员提出了GWOEdgeNet，这是一种通过基于灰狼优化（Grey Wolf Optimization
精确及时的大马士革玫瑰（Rosa damascena）成熟度分类对收获调度和玫瑰衍生产品质量至关重要，但在边缘硬件上部署深度模型受到计算和内存预算的限制。研究人员提出了GWOEdgeNet，这是一种通过基于灰狼优化（Grey Wolf Optimization, GWO）的神经架构搜索（Neural Architecture Search, NAS）获得的轻量级卷积网络（Convolutional Neural Network, CNN），并使用解耦知识蒸馏（Decoupled Knowledge Distillation, DKD）从MobileNetV2教师模型进行训练。搜索返回的学生模型仅含10,946个参数。通过自适应温度（temperature）和蒸馏权重调度，DKD将5折交叉验证（5-fold cross-validation）准确率从94.57%±1.19提升至95.15%±0.96，且学生模型比非蒸馏基线提前1.9倍达到峰值准确率。该蒸馏学生模型以203倍的压缩比保留了教师模型97.3%的准确率。在树莓派4B（Raspberry Pi 4B）上，GWOEdgeNet-KD以每图像38.1 ms（26.2 FPS）运行，是在相同协议下测量的八个最先进基线模型（MobileNetV3、ShuffleNetV2、EfficientNet-B0及其他）中唯一超过24 FPS实时阈值的结果。该学生模型还进一步在高斯噪声（σ∈{0.01,…,0.20}）和随机遮挡（5–40%）条件下进行了评估。这些结果表明，结合元启发式NAS与解耦蒸馏为设备端农业图像分类提供了一种准确、紧凑且实时的解决方案。
本研究旨在解决大马士革玫瑰成熟度分类中边缘部署深度模型的计算与内存瓶颈问题。大马士革玫瑰作为香水、制药和食品工业中精油生产的重要芳香作物，其成熟度分类直接影响收获时机与油产量，然而传统人工检查方式缓慢、昂贵且主观。尽管深度学习已广泛应用于农业视觉任务，但多数研究依赖ResNet、VGG或Inception等重量级骨干网络，难以在低功耗设备上部署。现有轻量级CNN如MobileNetV2/V3、ShuffleNetV2和EfficientNet虽为移动和嵌入式场景设计，但在超低功耗设备如树莓派上实现实时推理而不牺牲准确率仍具挑战。神经架构搜索（NAS）虽能提供硬件感知设计的自动化路径，但强化学习、可微分搜索、贝叶斯优化等方法存在搜索成本高昂、内存密集或缺乏硬件感知优化等局限。在农业成熟度识别领域，现有研究多微调大型预训练骨干，未能联合优化准确率、参数量和设备端速度。针对这一空白，研究人员提出了一种两阶段框架，将基于GWO的NAS与DKD相结合，以实现对边缘部署友好的超轻量级农业CNN设计。
该研究由Mohamed Ohamouddou、Nidhal K. El Abbadi、Suhail Odeh和Rafik Lasri完成，发表于《Intelligent Systems with Applications》。研究结论是：GWOEdgeNet通过GWO-NAS获得仅10,946参数的学生架构，经自适应DKD训练后，在树莓派4B上达到26.2 FPS的实时推理速度，同时保持95.15%±0.96的5折交叉验证准确率，为低成本嵌入式系统上的农业图像分类提供了准确、紧凑且实时的解决方案。
研究主要采用三项关键技术：基于GWO的NAS，以多目标适应度函数联合优化准确率与参数量；解耦知识蒸馏（DKD），将教师-学生KL散度分解为目标类项（TCKD）和非目标类项（NCKD）并独立加权，配合自适应温度τ（6.0→2.0）和蒸馏权重w
kd（3.0→0.5）的余弦衰减调度；以及5折分层交叉验证与 Raspberry Pi 4B 边缘推理基准测试协议（CPU推理,batch size 1, 不进行量化/部署优化)。
研究结果部分：GWO搜索结果显示，GWOEdgeNet在搜索阶段以10,946参数达到92.94%准确率，适应度为0.9602，优于所有随机基线；GWO收敛曲线显示α狼适应度从迭代1的0.9451增长至迭代15的0.9602，探索阶段（t≤5）后进入利用阶段，最终α-δ差距仅0.0032。
消融研究结果显示：去除挤压-激励（SE）模块导致准确率下降1.87%而仅节省19%参数；替换深度可分离卷积为标准卷积虽提升1.66%准确率但参数量增加6.7倍；批归一化（BN）对准确率影响至多±0.05%但稳定训练；极简 variant（无BN、SE、深度分离卷积）以71,058参数达到94.33%准确率，GWOEdgeNet以6.5倍更小的模型牺牲1.5个百分点准确率，达Pareto最优。
知识蒸馏结果分三部分：教师网络性能方面，MobileNetV2教师模型5折峰值验证准确率达97.78%±0.52，损失约10
?3，训练损失首15个epoch下降两个数量级，验证准确率第7个epoch进入97%高位平台；无KD学生训练方面，基线达94.57%±1.19；DKD学生训练方面，添加DKD后提升至95.15%±0.96，保留教师98.1%准确率，标准差从±1.19降至±0.96，最佳epoch从32.6提前至16.6，加速1.9倍。
替代KD变体与DKD超参数敏感性结果显示：Hinton KD、DIST、TAKD和DKD均优于无KD基线，但DKD在所有指标上最优（准确率95.15%、精确率95.09%、召回率95.09%、F1-Score 95.09%±0.97），且无需TAKD的辅助网络；β∈[1,2]时达峰值，α=0时损失约1个百分点，τ
max∈[2,6]区间基本平坦。
与SOTA比较结果显示：GWOEdgeNet-KD以10,946参数达到95.15%±0.96%，仅比最优的EfficientNet-B0（97.46%±0.84%）低2.31个百分点，但参数量缩小31倍（相对ShuffleNetV2-x0.5）至367倍（相对EfficientNet-B0）。
树莓派4B推理时间结果显示：GWOEdgeNet-KD延迟38.1 ms（26.2 FPS），是唯一超24 FPS实时阈值的模型；ShuffleNetV2-x0.5次之（54.8 ms，18.2 FPS），EfficientNet-B0最慢（260.3 ms，3.8 FPS）。
鲁棒性评估结果显示：高斯噪声下，GWOEdgeNet-KD在σ≤0.05时保持>95%准确率，σ=0.20时降至90.91%；随机遮挡下，5%遮挡率为94.03%，20%时为80.83%，DKD在各类别中均略优于无KD基线。
研究讨论部分：GWO搜索有效性方面，适应度函数的Pareto结构及α/β/δ狼的紧密收敛使GWO选择角落解而非中等基线；消融洞察方面，SE模块以19%参数增量换1.87%准确率提升，深度可分离卷积是主要效率杠杆；知识蒸馏分析方面，DKD通过TCKD/NCKD分离与自适应调度，使高初始温度平滑早期目标并防止过正则化；KD设计选择敏感性方面，+0.58个百分点的蒸馏增益对方法选择鲁棒，但DKD为Pareto最优，且超参数在推荐范围内处于平坦区域；与SOTA比较方面，2.31个百分点的准确率差距对应每测试折约14张额外误分类图像，但367倍参数缩减和6.8倍速度提升具有部署优势；鲁棒性分析方面，两个合成扰动族上用化降解而非灾难性失效，但真实野外条件仍需验证；实际部署意义方面，38.1 ms推理时间支持田间摄像头连续视频流，约60 KB磁盘占用免GPU加速，置信度标记行为可触发边界情况人工复核；局限性方面，数据集仅限摩洛哥Dades绿洲单地理区域，二元成熟-未成熟分类为近似抽象，鲁棒性仅评估高斯噪声和矩形遮挡，推理测试未使用量化或替代运行时。
研究结论翻译如下：研究人员提出了GWOEdgeNet，一种通过灰狼优化选择和通过解耦知识蒸馏训练的轻量级CNN，用于边缘设备上的大马士革玫瑰成熟度分类。GWO返回一个10,946参数的架构，相对于MobileNetV2教师模型实现了203倍压缩。采用自适应温度和蒸馏权重调度的DKD将5折准确率从94.57%±1.19提升至95.15%±0.96（+0.58个百分点），并比非蒸馏基线提前1.9倍达到峰值。学生模型保留了教师模型97.3%的准确率。在树莓派4B上（batch size 1，未量化），GWOEdgeNet-KD以每图像38.1 ms运行（26.2 FPS），是在该协议下唯一满足24 FPS实时阈值的评估模型；硬件特定优化如int8量化或替代运行时（TFLite、ONNX-Runtime）可能改变相对排序，这被列为未来工作。学生模型在高斯噪声（σ达0.20）和随机遮挡（5–40%）下均表现出良好的退化特性，且在两种扰动下DKD均带来微小但一致的增益。
主要贡献在于：（1）面向边缘部署约束的基于GWO的NAS；（2）将NAS与自适应调度DKD相结合的自动化流程，使学生架构自动而非手动选择；（3）涵盖对现实噪声和遮挡扰动鲁棒性的5折交叉验证。
这些结果表明，元启发式NAS与解耦知识蒸馏的结合是面向低成本嵌入式系统的准确、紧凑且实时农业图像分类的实用路径。未来工作将扩展至多级成熟度分级、跨区域验证以及与目标检测的集成以实现端到端收获自动化。
