综述：用于植物病害检测的可解释人工智能：方法、数据集和评估实践的综述

《Computers and Electronics in Agriculture》：Explainable artificial intelligence for plant disease detection: a scoping review of methods, datasets, and evaluation practices

　　• 对2020年至2025年间关于用于植物病害检测的可解释人工智能（XAI）的88项研究进行了范围综述。• 后置方法（Grad-CAM、LIME、SHAP）占据了主导地位，大多数研究依赖于受控数据集（例如PlantVillage）。• 定量可解释性评估和专家验证较为罕见（分别为2.3%和3.4%的研究）。• 一个双轴分类法（解释性范围与模型透明度）明确了XAI方法，并突出了研究空白。• 未来方向包括实际适用于现场的基准测试、标准化指标以及专家参与验证，以构建可信赖的农业XAI。

引言
植物病害始终是限制作物产量和食品安全的主要因素，导致主要粮食作物和园艺作物的产量和质量大幅下降（Gai和Wang，2024；Hiywotu，2025）。这些影响在以小农户为主的系统中尤为严重，因为受到及时诊断和治疗的限制，会加剧经济损失并威胁到生计（Mekonnen等人，2021；Omokaro，2025）。传统的病害诊断通常由受过培训的农学家、推广工作者或农民通过视觉检查进行，这种方法虽然有效，但常常受到主观性、专家资源有限、时间需求以及在大面积范围内进行田间监测的难度等的限制。此外，早期病害症状可能很微妙，容易被养分缺乏、非生物胁迫或复杂的田间环境所掩盖，从而导致干预延迟并增加下游损失（Shoaib等人，2025）。
为了应对这一问题，人工智能（AI）和计算机视觉（CV）已成为现代植物健康监测的核心，使得可以使用智能手机、无人机（UAV）和田间表型分析平台从图像中进行自动化诊断成为可能。深度学习（DL）模型，特别是卷积神经网络（CNN）以及最近的基于Transformer的架构，在植物病害识别及相关任务（如病变定位、病害严重程度评估和多病害分类）中表现出色（Chauhan等人，2025）。当这些模型在具有足够代表性的数据上进行训练时，可以支持早期预警、快速筛查和精准农业中的决策支持。然而，这些成果通常是在受控或基准测试环境下报告的，在实际田间条件下，由于照明变化、遮挡、相机质量、观察角度、品种差异、病害阶段变化以及背景杂乱等因素，其可靠性往往会下降。这种领域差异仍然是的限制因素（Ryo，2022；Venbrux等人，2023；Neik等人，2025）。
另一个障碍是许多高性能DL模型的透明度有限。尽管这些模型可以很准确，但它们通常无法提供关于预测依据的深入解释。在高风险农业环境中，错误的诊断可能导致不必要的农药使用、产量减少或治疗延迟，因此利益相关者越来越要求提供易于理解且生物学上可信的解释（Hassija等人，2023）。农民和顾问需要知道模型关注的是症状区域（如病变、黄化或坏死），而不是可能提高基准测试性能但在实际条件下无效的虚假线索（如土壤背景、图像边界、水印）。这一挑战对于将技术转移到决策支持系统以及建立最终用户之间的信任尤为重要。
因此，可解释人工智能（XAI）作为植物病害检测模型的关键补充应运而生。XAI方法的目标是提供人类可理解的模型推理表示，例如显著性/激活图、特征属性、原型、规则或基于概念的解释。在植物病理学中，这些解释通常以叶图像上的热图形式呈现（例如梯度加权类激活映射（Grad-CAM）及其变体，或分层相关性传播（LRP）），或者以特征重要性分数的形式呈现（例如Shapley加性解释（SHAP）和局部可解释模型不可知解释（LIME），这些分数指示哪些像素、图像区域或输入特征对预测贡献最大。原则上，XAI可以：（i）支持模型调试和偏差检测，（ii）提高用户信任度和接受度，（iii）增强部署和教育的透明度，以及（iv）促进AI输出的专业人员参与验证（Hassija等人，2023；Ryo，2022）。然而，XAI的实际价值严重取决于解释是如何生成的、评估的以及验证的。视觉解释虽然具有说服力，但不稳定，如果没有严格的评估，可能会产生错误的可靠性感。因此，系统地映射XAI方法和验证实践对于推进可信赖的农业AI至关重要。
尽管相关出版物数量迅速增长，但关于用于植物病害检测的XAI的文献仍然分散。许多研究报告了较高的分类准确性以及定性的解释结果，但提供定量可解释性评估（如忠实度、定位一致性）或包括领域专家来评估突出区域是否对应真实症状的研究却很少。可重复性和外部验证也常常受到代码可用性受限、数据集覆盖范围狭窄以及过度依赖不代表田间复杂性的实验室风格数据集的制约。这些问题使得难以理解该研究领域的成熟度，难以在不同研究中比较方法，并为开发适用于现场且可解释的病害检测系统提供可行的指导。
最近的几篇综述文章广泛讨论了XAI技术，或描述了AI在农业中的应用，包括质量评估和植物健康监测（Saranya和Subhashini，2023；Ahmed等人，2025；Kaler和Kaur，2025；Kalasampath等人，2025）。虽然这些综述提供了信息，但它们并没有全面地展示XAI在植物病害检测中的具体应用方式，也没有系统地整合数据集、验证方法和可解释性评估实践。这一领域的快速扩展本身也很值得注意。在本次综述纳入的88项研究中，研究产出从2021-2022年的9.1%增加到2024年的36.4%，仅在2025年的前十个月内就达到了31.8%，这凸显了及时综合的紧迫性。本综述所解决的具体知识空白在之前的所有调查中都不存在，因为它整合了以下方面的农业特定映射：（i）使用了哪些XAI方法及其适用的任务；（ii）支持这些方法的数据集是什么以及这些数据集的现实性如何；以及（iii）解释是如何评估和验证的，包括定量评估的程度和专家参与情况。填补这一空白在实践中非常重要，因为不良或未经验证的解释可能会损害农民的信任，误导农学家，并妨碍基于AI的诊断工具在真实农业环境中的采用。因此，本综述预计将帮助研究人员发现未被充分探索的XAI方法和评估协议，以便植物病理学家了解当前AI解释能够可靠地传达关于病害机制的信息，同时帮助农业技术开发者设计适用于现场且可信赖的可解释系统。下表1比较了相关综述文章和本研究。
为了填补这一空白，本研究进行了PRISMA-ScR指导的XAI用于植物病害检测的范围综述，涵盖了2020年1月至2025年10月期间发表的研究。该综述系统地映射了模型架构、XAI技术、数据集特征和评估实践，并提出了一个双轴分类法，根据解释性范围（局部与全局）和模型透明度（内在与后置）对方法进行组织。选择范围设计是因为文献高度异质，主要目标是进行广度映射而不是元分析效应估计。PRISMA-ScR框架确保了与此目标一致的透明报告。预计该综述将有助于寻找未被充分探索的XAI方法的研究人员、评估当前解释可靠性的植物病理学家，以及设计适用于现场且可信赖的诊断系统的农业技术开发者。
该综述围绕以下研究问题展开：
• RQ1：在基于XAI的植物病害检测中，最常研究哪些作物和病害，以及作物/病害覆盖方面的空白在哪里？
• RQ2：哪些AI架构和XAI技术在文献中占主导地位，它们应用于哪些场景？
• RQ3：使用了哪些类型的数据集（受控基准、现场、混合、多模态、专有），数据集的现实性与报告的结果有何关联？
• RQ4：如何评估预测性能和可解释性（定性可视化、定量可解释性指标、专家验证、外部/现场验证）？
• RQ5：还存在哪些限制和开放性的挑战，哪些研究方向对于构建健壮、适用于现场的XAI系统最有前景？
因此，本研究做出了以下贡献：
• 全面的证据基础映射（2020-2025年）：我们总结了88项整合了植物病害检测与明确XAI组件的研究，概述了任务、作物/病害和方法论模式。
• 组织XAI方法的分类法：我们引入了一个基于解释性范围和模型透明度的双轴分类法，以明确XAI方法在实践中的位置和组合方式。
• 数据集和验证综合：我们分析了数据集来源和现场现实性，并总结了预测性能和可解释性是如何评估的，包括定量可解释性指标和专家评估的频率。
• 可行的研究议程：我们确定了反复出现的空白，如对受控数据集的依赖、有限的现场验证、稀缺的专业人员参与验证以及标准化的不足，并提出了基准测试、可重复性和以人为中心的验证的方向。
鉴于文献中使用的术语多样性，需要澄清可解释人工智能（XAI）中的几个核心概念。在本研究中，可解释性指的是AI系统提供其预测原因的能力，通常通过后置解释技术（如特征属性或可视化方法）来实现。可解释性与解释性经常被互换使用，但在这里定义为人类直接理解模型内部机制或决策逻辑的程度。透明度指的是模型结构和操作的固有开放性，这通常与本质上是可解释的模型相关，而不是像深度神经网络这样的复杂黑盒架构。最后，可解释人工智能（XAI）包括一系列旨在使复杂AI模型更易于人类理解的技术和方法论。为这些术语建立一致的定义对于确保基于AI的植物病害检测研究中的一致性和可比性非常重要。
本文的其余部分组织如下。第2节描述了范围综述的方法论和研究选择过程。第3节展示了文献分析的结果，包括AI架构、XAI技术、数据集特征和评估/验证实践。第4节总结了主要挑战和方法论空白。第5节讨论了影响并概述了朝着健壮、可重复和适用于现场的可解释植物病害检测系统发展的未来研究方向。第6节以关键发现和建议作为结论。

方法论
该范围综述是根据PRISMA-ScR指南（Tricco等人，2018；[AuthorError]等人，2025a）进行和报告的，旨在映射XAI在植物病害检测中的应用，并从模型类型、数据集/现场现实性和评估/验证实践的角度综合报告的方法。一般识别和筛选过程在图1中进行了总结。

XAI概述
现代机器学习，特别是深度学习的主要挑战之一是其黑盒性质。尽管这些模型往往能达到较高的预测准确性，但它们对决策方式的洞察力有限（Ribeiro等人，2016；Hassija等人，2023）。这种缺乏透明度限制了用户的信任、可解释性和实际应用，尤其是在像农业这样的领域，其中决策必须与生物学推理保持一致（Lundberg和Lee，2017；Xhani等人）。

XAI基于植物病害检测技术的挑战
在数据整理阶段归纳地编码了挑战。每位合作者独立识别并记录了研究作者明确报告的局限性。如果一项研究描述了多个局限性，则可能被分配到多个挑战类别中，因此编码是非排他的，多重分配是常见的。挑战频率以包含的研究总数（n = 88）的百分比表示，计算方法是报告给定挑战的研究数量。

讨论
第4节列举了各研究中识别出的具体方法论挑战。本节在更高的抽象层次上综合了这些挑战，将它们与研究问题（RQ1-RQ5）联系起来，并解释了它们对实际应用的影响，而不是重新描述它们。目的是从文献报告的内容（第3-4节涵盖）转向它们对研究人员、实践者和开发者的意义。

结论
该范围综述系统地映射了基于深度学习的植物病害检测中可解释人工智能的应用，综合了2020年1月至2025年10月期间发表的88项同行评审研究的证据。使用PRISMA-ScR框架和一个由解释性范围和模型透明度组织的新型双轴分类法，该综述解决了五个研究问题，涵盖了XAI方法的采用、数据集特征、评估实践和架构。

CRediT作者贡献声明
Usman Idris Ismail：撰写——审阅与编辑、撰写——原始草稿、可视化、方法论、调查、形式分析、数据管理、概念化。
Hui Na Chua：撰写——审阅与编辑、监督、方法论、形式分析、概念化。
Rosdiadee Nordin：撰写——审阅与编辑、监督、方法论。何亮李（Hoi Leong Lee）：撰写与审阅/编辑、方法论、形式分析

**利益冲突声明**
作者声明他们没有已知的、可能影响本文研究结果的财务利益冲突或个人关系。

**致谢**
本研究得到了Sunway大学工程技术学院及计算机科学学院的研究生研究管理单位的支持，该支持通过博士生奖学金的形式提供。作者衷心感谢这些机构的支持，并感谢同事们在研究过程中提供的宝贵贡献和建设性反馈。

**关于生成式AI的使用说明**
在撰写本文的过程中，作者使用了ChatGPT（OpenAI）来提升文本的可读性和语言表达效果。在使用该工具/服务后，作者们……（后续内容未提供）

作者名单：Usman Idris Ismail、Hui Na Chua、Rosdiadee Nordin、Hoi Leong Lee