基于注意力池化头与Swin Transformer的芒果叶片病害诊断方法

《Scientific Reports》：MangoSwin-attention: a swin transformer with attention pooling for generalizable mango leaf disease classification

　　

摘要

芒果种植对印度经济（园艺领域）至关重要。然而，农民面临诸多挑战，例如真菌性叶部疾病会损害芒果品质和产量。虽然深度学习已实现自动化病害诊断，但当前方法仅局限于使用卷积神经网络（CNN），由于从训练集到实际应用的泛化能力不足，模型表现不佳。这些局限性归因于使用了全局平均池化层，该层将病斑与背景噪声等同对待，所产生的特征表示在测试条件与实际应用条件之间迁移性较差。为了克服先前方法的局限性，我们将一种基于注意力的池化头——其源于基于注意力的多示例学习范式——适配到层级化Swin Transformer中。与标准池化层不同，在我们的方法中，图像块的重要性分数是自动学习获得的，并用于聚焦病斑区域、抑制无关噪声。我们使用一个包含21,932张芒果叶片图像的复合数据集进行评估，该数据集涵盖七个不同的病害类别和一个健康对照组，此外还使用了一个不同的分布外数据集。评估结果显示，我们的模型在分布内测试数据上达到了99.41%的准确率。在三次测试运行中，该模型在新的分布外数据上的平均准确率为91.00 ± 3.20%，而基线Swin-Base模型的平均准确率为87.44 ± 5.00%，将平均泛化差距从11.94%降至8.42%。这一3.56个百分点的准确率提升显示出积极且一致的实证趋势，尽管在三次独立运行中，根据Welch's t检验未达到统计显著性（\(\:p=0.37\)）。在我们的单次基准测试中，该模型得分为90.37%，而基线模型得分为83.40%，McNemar检验显示误分类数量显著下降（p < 0.001）。因此，我们认为我们的混合架构是诊断农业应用中植物病害的更为稳健的方案。