《Electronics》:Cotton Leaf Disease Detection via Dual-Backbone CNN-Transformer Fusion with Quantitative XAI Comparison
编辑推荐:
深度学习(DL)在棉花叶片病害检测中展现出潜力,但仍存在两个关键空白。首先,大多数研究依赖单一模型(卷积神经网络(CNN)或Transformer),并未探索如何有效融合这些互补的架构。其次,可解释性人工智能(XAI)方法通常被定性使用,缺乏指导方法选择的客观
深度学习(DL)在棉花叶片病害检测中展现出潜力,但仍存在两个关键空白。首先,大多数研究依赖单一模型(卷积神经网络(CNN)或Transformer),并未探索如何有效融合这些互补的架构。其次,可解释性人工智能(XAI)方法通常被定性使用,缺乏指导方法选择的客观基准。为了填补这些空白,研究人员在包含四个类别共1711张图像的Kaggle棉花叶片病害数据集上,评估了六种主干模型,包括四种CNN(ResNet50、EfficientNet-B0、DenseNet121和MobileNetV2)和两种视觉Transformer(ViT-Base和DeiT-Small)。随后,研究人员系统研究了五种CNN-Transformer融合策略,即连接融合、注意力融合、加权融合、集成融合和基于方差的融合,以确定最有效的病害分类方法。表现最佳的单一模型是DenseNet121(92.40%准确率)和ViT-Base(96.49%准确率)。分类指标包括准确率、平衡准确率、精确率/召回率、F1分数、Cohen的kappa、MCC、AUC、自举置信区间和McNemar检验。同时报告了计算效率(FLOPs、推理时间、模型大小)。连接融合实现了最高的性能(准确率=99.42%,95%置信区间(CI): 98.2–100%,加权F1 = 0.994,MCC = 0.992)。在可解释性方面,研究人员使用指向游戏、IoU、AUC和定位准确率定量比较了六种XAI技术,即GradCAM、GradCAM++、ScoreCAM、LayerCAM、EigenCAM和AblationCAM。EigenCAM产生了最佳的整体可解释性得分。这项研究表明,双主干(CNN + Transformer)之间的简单特征连接对棉花叶片病害检测非常有效,并为植物病理学中的XAI方法选择提供了基准。
研究背景与意义
棉花是全球重要的经济作物,但其产量和质量受到细菌性枯萎病、枯萎病和卷叶病毒等多种疾病的严重影响。传统的病害诊断高度依赖农业专家的视觉检查,此过程主观性强、速度慢、劳动强度大且难以规模化。尽管深度学习(DL)尤其是卷积神经网络(CNN)在提取特征方面取得了显著进展,但标准CNN在建模远距离依赖和全局上下文方面存在固有局限性,难以捕捉分布在叶片多个区域的细微症状变化。近期研究引入了视觉Transformer(ViT),利用自注意力机制有效捕捉长距离上下文依赖,但其性能常依赖于大规模训练数据,且可能忽略卷积操作自然捕捉的细粒度局部细节。因此,单一依赖任一架构均无法充分利用互补的特征表示。现有的混合CNN-Transformer研究多聚焦于设计单一架构,而忽略了不同特征融合方法的比较。此外,DL模型的“黑盒”性质限制了其透明度,而现有农业XAI文献多依赖定性视觉检查(如热力图),缺乏客观定量的评估基准。为此,研究人员开展了一项系统性实证研究,在统一的实验协议下比较了多种既定的融合策略和可解释性方法,以填补上述空白。该研究成果发表在《Electronics》期刊上。
关键技术与方法
研究人员使用Kaggle公开的棉花叶片病害数据集(包含1711张分布在四个类别的RGB图像)作为样本队列来源。研究采用了四种CNN主干(ResNet50、EfficientNet-B0、DenseNet121、MobileNetV2)和两种ViT主干(ViT-Base、DeiT-Small),并使用ImageNet预训练权重进行迁移学习(TL)。在特征提取后,研究提出了方差特征优化策略以剔除冗余维度,并构建了五种融合架构。在可解释性评估方面,研究构建了合成参考掩膜,采用包括Pointing Game、IoU、AUC和Localization Accuracy在内的四个互补客观指标,对六种XAI技术进行了定量基准测试。
研究结果
性能评估
研究人员通过实验系统评估了所提框架的有效性。在个体深度学习架构评估中,基于Transformer的ViT-Base模型表现最佳,其准确率达到96.49%,宏观F1分数为0.965,MCC为0.949,加权AUC为1.0,证明了Transformer架构在复杂病害识别任务中的优异表示学习能力。在CNN模型中,DenseNet121和EfficientNet-B0取得了具有竞争力的结果,准确率均超过90%。研究人员还对融合模型的分类性能进行了详细分析。结果显示,融合策略的性能显著优于所有独立架构,证实了CNN和Transformer的表示提供了互补的判别信息。特别地,连接融合策略取得了最佳总体性能,准确率高达99.42%,宏观F1分数为0.994,MCC为0.992,加权AUC为1.0。为了确保完全透明,研究人员检查了连接融合模型的确切分类结果,在171个测试样本中有170个被正确分类。基于方差的融合策略也取得了98.83%准确率的高度竞争性表现。此外,集成融合策略准确率达98.25%。然而,加权融合的性能相对较低,表明直接组合logits无法充分利用主干网络学习到的互补表示。尽管融合方法显著提高了性能,但也因使用双主干引入了较高的计算复杂度。所有融合模型需要约19.7 G FLOPs和超过92M的可训练参数。
可解释性分析
为探究不同可解释性技术如何识别疾病相关区域并抑制不相关的背景信息,研究人员对六种广泛采用的XAI方法(GradCAM、GradCAM++、ScoreCAM、LayerCAM、EigenCAM和AblationCAM)进行了定性比较。结果显示,GradCAM、GradCAM++、ScoreCAM、LayerCAM和AblationCAM生成的激活图普遍溢出到背景区域,而EigenCAM生成了严格限制在叶片区域内且精确的激活图,有效消除了背景的假阳性归因。研究人员进一步使用Pointing Game、IoU、AUC和Localization Accuracy四个互补指标进行了定量评估。结果表明,EigenCAM在所有四个标准上均表现出色,其Pointing Game得分为0.750,IoU为0.457,AUC为0.806,Localization Accuracy为0.613,综合得分高达0.906,明显优于排名第二的GradCAM++(0.707)。这一发现表明,基于主成分分析提取特征激活的EigenCAM能够有效过滤背景噪声,在植物病害检测这类需区分目标与背景的任务中具有极高可靠性。
讨论与结论
在讨论部分,研究人员指出连接融合的高效性在于保留了基于CNN和Transformer表示之间的互补性。CNN在识别局部纹理等细粒度信息上具有天然优势,而Transformer通过自注意力学习全局长距离依赖。简单连接这两个模型的输出保留了所有特征空间信息,因此取得了最高分类性能。注意力融合和加权融合等方法由于在决策层操作,未能充分探索低级空间特征与高级上下文特征的交互。在可解释性方面,EigenCAM采用基于激活的方法提取主成分,避免了梯度传播带来的噪声干扰,因此在农业图像背景多变的情况下能产生更可靠的激活图。然而,研究也指出由于缺乏像素级病灶标注,此次XAI评估使用的是合成参考掩膜,其结果应被视为初步证据。
最后,研究总结了结论。研究人员提出了一个系统实证框架,用于评估棉花叶片病害分类中的CNN-Transformer融合和可解释性策略。研究验证了几项关键发现:在独立架构中,ViT-Base优于最佳CNN模型DenseNet121;五种融合策略的系统评估表明,简单的特征连接取得了最高的分类性能,优于所有独立模型;计算分析揭示了部署中的权衡,指出模型选择需视部署约束而定;在针对棉花叶片病害检测的XAI方法基准测试中,EigenCAM始终优于梯度方法。该研究为发展可靠且可解释的AI系统以服务于精准农业提供了坚实的实证基础。