AGRI-KD：融合病害分类、空间定位与严重度量化的水稻病害轻量级多任务知识蒸馏框架

《Smart Agricultural Technology》：AGRI-KD: A Lightweight Multi-Task Framework for Rice Disease Diagnosis with Localization and Severity Quantification

　　

AGRI-KD（Agricultural Knowledge Distillation，农业知识蒸馏）是一个轻量级多任务框架，能够从单一模型中同时输出病害分类、空间定位、IAP（Infected Area Percentage，感染面积百分比）、严重度等级和病斑计数。多教师知识蒸馏实现了20倍模型压缩和5倍推理加速。经过训练的注意力机制将定位Dice系数从0.276提升至0.575（p < 0.001）。专用预测头增加了IAP估计（MAE 5.91%）、严重度分级（准确率75.1%）和病斑计数（R²=0.713）功能。该模型在入门级智能手机上以14.8 ms（68 FPS）运行，支持边缘端部署。现有深度学习病害诊断系统仅输出分类标签，而农业从业者需要可量化的信息来指导杀菌剂施用和收获决策。事后可解释性方法（如Grad-CAM）和物体检测框架（如YOLO）在精度、计算开销或输出全面性方面各有局限，且尚无研究报道经过验证的设备端推理。为解决这一问题，研究人员提出了AGRI-KD，采用多教师蒸馏策略，将ResNet-50、DenseNet-121和EfficientNet-B0组成的教师集成模型的知识迁移至紧凑的MobileNetV3-Small学生模型中。该框架将三个已有但此前未在同一可部署模型中被协同优化的组件相结合：基于学习的注意力监督——训练空间注意力图与真实标注对齐，而非依赖事后可视化；专用预测头——用于IAP回归、严重度分级和病斑计数；以及多教师蒸馏——将集成模型压缩至可在入门级硬件上运行的尺寸。研究人员在RiceLeafDiseaseBD数据集上评估了AGRI-KD，该数据集包含9,769张田间采集图像及21,460个边界框标注，覆盖六个类别，并在具有代表性的入门级智能手机上验证了设备端推理。

**论文解读**

**一、研究背景与问题**

水稻是全球超过一半人口的主粮作物，2023年全球稻谷产量约8亿吨。稻瘟病（blast）、胡麻斑病（brown spot）和白叶枯病（bacterial leaf blight）等叶部病害在流行区域可造成10%至30%的产量损失，在暴发期甚至可能导致绝收。近十年来，深度学习已成为自动化病害检测的主流框架，ResNet、DenseNet和EfficientNet等卷积神经网络在精心构建的数据集上持续取得超过95%的分类准确率。然而，这些系统的实际应用价值在部署环节遭遇瓶颈：它们仅能告知农户病害类别，却无法回答病害位于叶片何处、受侵染面积多大以及严重程度如何等关键问题。

这一局限根源于一项根本性的设计假设——即将病害诊断视为纯粹的图像分类问题。然而，农业从业者需要的是可指导行动决策的定量信息，包括感染面积百分比、严重度等级和病斑数量，这些信息直接影响杀菌剂施用、隔离措施或收获时机的判断。事后可视化方法如Grad-CAM和Grad-CAM++虽能高亮判别区域，但其计算在训练完成后进行，并未针对定位精度进行优化，常产生弥散或偏移的注意力图。YOLO等物体检测框架可提供精确的边界框，但计算开销显著增大，且难以自然延伸至严重度分级等聚合指标。知识蒸馏方法已被探索用于将分类器压缩至移动端，而结合分类与严重度估计的多任务方法虽已开始出现，但要么缺失空间输出，要么未受移动端算力约束，且无一报道经过验证的设备端推理。因此，该领域缺乏一个统一的、可在小农户使用的资源受限智能手机上部署的框架，能够同时提供分类、空间定位和定量严重度评估。

**二、研究内容与意义**

研究人员提出了AGRI-KD框架，这是一个多任务知识蒸馏框架，能够在单个轻量级模型中同时完成病害分类、空间定位和定量严重度评估。AGRI-KD采用多教师蒸馏策略，由ResNet-50、DenseNet-121和EfficientNet-B0三个高容量网络组成的教师集成模型，将互补知识迁移至紧凑的MobileNetV3-Small学生模型。该框架在RiceLeafDiseaseBD数据集——一个包含9,769张田间采集图像和21,460个边界框标注的六个类别数据集——上进行了评估，并在具有代表性的入门级智能手机上验证了设备端推理。

该研究的主要贡献包括：第一，在可部署模型中实现了集成式多任务诊断，将训练注意力定位、农业多任务回归（感染面积百分比、严重度等级、病斑计数）和多教师知识蒸馏整合于单一轻量级网络，单次前向传播即可返回五种输出并在入门级移动硬件上运行；第二，实现了可蒸馏的定位能力，证明训练阶段受监督的空间定位可通过蒸馏迁移至紧凑分类骨干网络，产生的注意力图优于所有测试的事后可解释性方法；第三，在入门级硬件上完成了部署验证，将三教师集成模型压缩至6.97 MB的学生模型，并在售价约125美元的智能手机上报告了延迟、内存占用和推理加速器消融结果；第四，完成了带显著性检验的组件消融分析，通过六种配置清晰分离了各机制的贡献。

**三、关键技术与方法**

AGRI-KD框架包含两个阶段：教师集成模型提供多源监督信号，轻量级学生模型通过知识蒸馏同时学习多项任务。教师集成模型采用三种架构各异的网络——ResNet-50（2,370万参数）、DenseNet-121（700万参数）和EfficientNet-B0（410万参数），均在ImageNet上预训练后在目标水稻病害数据集上微调，集成预测通过对各教师软化概率取均值获得，集成注意力图通过对各教师注意力图逐元素取最大值获得。学生模型基于MobileNetV3-Small（173万参数，6.97 MB），引入一个可学习的注意力模块，在骨干网络中间特征F^(s)∈R^7×7×576上通过三层1×1卷积逐步降维并经过sigmoid激活，输出7×7的空间注意力图A^(s)，该模块仅增加8万参数（占模型总参数4.6%）。知识蒸馏策略包含三个层面：软标签蒸馏——匹配教师集成模型的软化概率分布；双注意力监督——同时接受来自真实边界框掩码和教师集成注意力图的监督信号；对比特征对齐——采用监督对比学习使同类病害特征聚集、异类特征分离。农业预测头全部作用于共享的1024维特征向量G^(s)，包括分类头、IAP回归头（通过sigmoid将输出限制在[0, 100]）、严重度分类头（依据IAP阈值划分为五个等级）和病斑计数头。真实IAP按病斑边界框面积占被评估叶片面积的百分比计算，叶片掩码通过在405张训练集图像上训练U-Net（ResNet-34编码器，留出验证Dice为0.976）生成。RiceLeafDiseaseBD数据集来源于孟加拉国，按分层抽样划分为训练集（70%）、验证集（15%）和测试集（15%）。标注经过HSV颜色分割和几何验证重新校正，获得21,460个经过验证的边界框。训练采用三阶段流程，使用AdamW优化器（学习率5×10^?5，权重衰减1×10^?4），批量大小为32，余弦退火学习率调度共35个epoch，在单块NVIDIA L4 GPU上进行。

**四、研究结果**

**消融实验**揭示了清晰的贡献分解模式。注意力监督驱动定位能力提升：单独添加注意力监督（配置A3）产生了最大的单组件Dice增益，证明了空间定位必须被显式监督而不能期望其从分类训练中自然涌现。农业预测头驱动量化能力提升：添加农业头（配置A2）贡献了几乎全部的IAP和严重度改善。知识蒸馏在与注意力结合时增强定位效果：单独使用知识蒸馏（配置A4）产生适度增益，但当与注意力监督结合（配置A5、A6）时收益被放大。全框架AGRI-KD（配置A6）实现了90.55%的分类准确率、0.575的定位Dice系数、5.91%的IAP MAE和75.1%的严重度准确率，与配置A5的分类差异不显著（p=0.724），表明多任务学习未损害分类性能。

**与知识蒸馏方法的对比**表明，AGRI-KD在单一教师（ResNet-50）设置下取得了90.41%的分类准确率，接近教师模型性能（91.15%），并优于最强基线CRD（90.27%）。传统知识蒸馏方法仅能进行分类迁移，而AGRI-KD在分类指标上持平或超越这些方法的同时，还能额外提供四种输出模态。

**与注意力可视化方法的对比**显示，AGRI-KD的监督注意力在所有指标上均优于所有事后可解释性方法。在300张固定测试样本上，AGRI-KD的IoU为0.450（比Layer-CAM高20.0%），Dice为0.621（高13.9%），指向游戏准确率为82.3%（高2.6个百分点）。Score-CAM在该场景表现较差（IoU 0.140，指向准确率33.0%），因为其在杂乱田间背景下置信度变化信号含噪严重，且其每通道一次前向传播的计算开销使其不适用于设备端部署。

**效率与部署分析**表明，AGRI-KD相较于教师集成模型实现了20倍模型压缩（133.9 MB→6.97 MB）和5倍GPU推理加速（32.8 ms→6.4 ms）。在Helio 55设备（MediaTek Helio G92芯片组，8 GB RAM，售价约125美元）上，使用XNNPACK推理加速器，单线程延迟为14.80 ms（68 FPS），变异系数1.0%；四线程延迟为7.97 ms（125 FPS）但稳定性较差（变异系数15.5%），归因于异构big.LITTLE核心架构。禁用推理加速器时单线程延迟为20.88 ms，加速器提供了1.41倍加速。峰值内存为29.0 MB，模型转换后FP32精度下数值与PyTorch参考实现的最大绝对偏差为6×10^?6。

**与YOLOv8-Nano的对比**显示，YOLOv8-Nano取得了0.475的mAP@50，但其计算量为AGRI-KD的135倍（8.1 vs. 0.06 GFLOPs），输入分辨率为8.2倍像素量，且仅提供单一检测输出模态，无法进行分类、IAP估计、严重度分级或病斑计数。

**农业指标分析**表明，在叶片面积归一化下，IAP MAE为5.91%（RMSE 10.62%），R²=0.689，目标范围为0至97%。严重度分级在五级尺度上的总体准确率为75.1%，F1-macro为0.645，各等级召回率分别为90%（0级）、86%（1级）、58%（2级）、44%（3级）和59%（4级），残差集中于相邻等级之间。病斑计数的R²为0.713，MAE为1.38个。

**逐类分析与统计显著性**确认，基线模型与AGRI-KD在所有六个类别上均无统计显著的分类差异（配对t检验p=0.724，Bootstrap 95%置信区间[?1.1%, +1.1%]穿越零值，McNemar检验0/6类显著）。定位Dice提升（+0.290，相对增益约108%）高度显著（p<0.001），效应量大（Cohen's d=1.499），并由参数检验（配对t检验）和非参数检验（Wilcoxon符号秩检验）双重确认。

**五、讨论与结论**

讨论部分对贡献进行了清晰分解：农业预测头属于工程性增加，其IAP和严重度增益归因于增加了输出能力而非蒸馏方法本身；定位则是核心方法学发现——学习注意力监督经多教师知识放大，产生了分类训练和农业头均无法单独提供的空间聚焦能力，将传统上需要检测或分割架构的定位功能蒸馏至轻量级分类骨干网络，拓展了知识蒸馏在农业领域的应用范畴。AGRI-KD在能力谱系中占据独特设计位置：不同于检测模型牺牲计算效率换取边界框精度，不同于事后可视化方法仅提供分类解释而非优化定位精度，也不同于现有农业知识蒸馏方法仅限于分类迁移。对小农农业的实际意义在于，农户可用入门级智能手机拍摄叶片照片，在无网络连接的15 ms内获得病害诊断、空间注意力图、感染面积百分比和严重度等级，从而在田间即可做出治疗决策。

研究局限性包括：感染面积从矩形边界框导出，矩形框高估了不规则病斑的真实面积；叶片掩码由模型生成，掩码误差会传播至IAP分母和严重度等级；不同病害的标注惯例存在差异；定位在7×7粗粒度特征分辨率上操作，无法描绘单个微小病斑；分类准确率仅比最强单任务蒸馏基线高出0.14个百分点；严重度分级仍是最弱输出（准确率75.1%）；多线程推理在目标硬件上不稳定；部署仅在单一设备上验证；图像采集局限于孟加拉国单一地区和单一生长季；诊断基于视觉评估而非实验室确认。

研究结论指出，AGRI-KD将水稻叶部病害诊断从单一类别标签转变为五种同步输出：分类、空间定位、感染面积百分比、严重度等级和病斑计数，全部来自单个6.97 MB的MobileNetV3-Small学生模型。在RiceLeafDiseaseBD数据集上，该框架保持了与基线统计等效的分类准确率（总体Δ=+0.1%，p=0.724），同时实现了高度显著的定位增益（p<0.001，Cohen's d=1.499）。消融研究证实这些能力可被清晰分解：空间聚焦由学习注意力监督驱动，农业量化由专用回归头提供。模型相对于教师集成模型实现了20倍压缩比，在入门级智能手机上以14.8 ms单张推理延迟运行，证明了其在资源受限、离线农业场景中的可行性。AGRI-KD的核心贡献并非新颖的蒸馏算法，而是一种新的能力：在经验证的移动计算预算内，首次实现了分类、训练定位和农学回归的集成部署。这些结论受限于基于边界框导出的IAP真实值、基于估计叶片面积而非直接农学验证的严重度方案以及单一作物范围。未来纳入像素级标注、专家验证的严重度阈值和跨作物泛化的工作，对于建立更广泛的可靠性将必不可少。