一种新颖的知识蒸馏与混合可解释性方法,用于基于多源时间序列进行物候阶段分类

《Information Fusion》:A Novel Knowledge Distillation and Hybrid Explainability Approach for Phenology Stage Classification from Multi-Source Time Series

【字体: 大 中 小 】 时间:2026年01月18日 来源:Information Fusion 15.5

编辑推荐:

  植物物候分类中提出基于多源时间序列数据的深度学习框架,融合卫星影像、气象站与实地观测数据,通过特征工程提取时序动态、滚动统计、傅里叶变换等特征,结合混合SHAP-关联规则解释方法与知识蒸馏技术,实现高效可解释的多周预测模型。

  
Naeem Ullah | Andrés Manuel Chacón-Maldonado | Francisco Martínez-álvarez | Ivanoe De Falco | Giovanna Sannino
那不勒斯费德里科二世大学电气工程与信息技术系,Claudio大街21号,80125,意大利那不勒斯

摘要

准确的物候阶段分类对于应对气候变化、水资源短缺和土地退化带来的全球粮食安全挑战至关重要。它通过优化灌溉、施肥和害虫控制等关键干预措施,实现了精准农业。尽管深度学习提供了强大的工具,但现有方法存在四个主要限制:依赖于狭窄的特征和模型、有限的长期预测能力、计算效率低下以及解释不透明且未经验证。为了克服这些限制,本文提出了一个基于深度学习的物候分类框架,该框架利用来自卫星图像、气象站和田间观测的多源时间序列数据。该方法强调时间一致性、空间适应性、计算效率和可解释性。特征工程流程通过滞后特征、滚动统计、傅里叶变换和季节性编码提取时间动态。特征选择结合了增量策略与传统的过滤器方法、包装器方法和嵌入式方法。在多时间范围预测任务中,对前馈、循环、卷积和基于注意力等多种深度学习模型进行了基准测试。为了在可能的情况下降低模型复杂性同时保持性能,该框架采用了知识蒸馏技术,将复杂教师模型的预测知识转移到紧凑且可部署的学生模型中。为了提高模型的可解释性,提出了一种新的混合SHAP-关联规则解释方法,该方法整合了模型驱动和数据驱动的解释方式。使用精度@k、覆盖率和Jaccard相似度等信任度指标来量化不同解释之间的共识,并通过重新训练进行验证。在安达卢西亚的物候数据上的实验表明,该方法具有高准确性、强大的泛化能力、可靠的解释以及资源高效的农业系统物候监测能力。

引言

农业仍然是生计和粮食安全的关键领域,但越来越受到气候变化、水资源短缺和土地退化的影响[1]。利用新的数据驱动技术进行精准农业是解决这些问题的一个方法。机器学习(ML)和时间序列分析可以作为强大的工具来监测作物生长并识别关键生长阶段[2]。通过监测植物生命周期过程,可以最大化灌溉、施肥和害虫控制等农场投入的效果,从而提高产量和可持续性[3]。
通过应用ML和深度学习(DL)技术,自动化和增强物候阶段分类的能力显著提高。地面或卫星观测数据以及时间序列建模已被用于各种研究中,以检测作物阶段或预测变化[4]。例如,卷积神经网络(CNN)和循环神经网络(RNN)被应用于从遥感和天气数据中检测葡萄藤和小麦的生长阶段[5]、[6]、[7]。
这项工作的主要动机在于现有物候分类方法的持续局限性,这些局限性限制了它们的实际相关性、鲁棒性和可解释性[8]、[9]、[10]、[11]。许多方法依赖于狭窄的特征集,常常忽略丰富的时间模式,如滞后变量、滚动统计、傅里叶分量或基于相关性的趋势。特征选择通常仅限于少数几种方法,错过了结合多种过滤器方法、包装器方法和嵌入式方法的机会,这些方法可以提供关于特征相关性的互补见解。这可能导致遗漏重要的特征,从而降低模型的准确性,并且在训练和推理过程中浪费不必要的资源,尤其是在资源有限的设备上。
此外,以往的研究往往只评估有限范围的DL架构,通常关注单一范式,而不是探索循环模型、卷积模型或基于注意力的模型等替代方案。这种有限的搜索空间意味着更多更精确或本质上更高效的架构尚未被发现。因此,从业者可能会使用不必要的大而复杂的模型,这些模型在资源受限的设备上运行成本过高。
时间依赖性经常处理不当,增加了数据泄露和过于乐观评估的风险。通过跨站点训练统一模型,通常忽略了空间异质性,忽视了局部物候变化。
研究主要集中在短期、一步预测上,而对操作规划至关重要的多时间范围预测关注不足。这限制了这些模型在实践中的使用,使得农场管理者无法提前数周规划操作,使这些模型仅具有理论意义而无法实际应用。
深度学习模型的可解释性仍然有限,尽管已经探索了如SHapley加性解释(SHAP)[12]、局部可解释模型不可知解释(LIME)[13]或关联规则[14]、[15]等解释方法,但它们很少整合模型驱动和数据驱动的解释方式以实现一致的解释。此外,大多数方法缺乏系统的解释置信度度量,如精度@k或Jaccard指数。这种缺乏综合且经过验证的解释方式导致了信任度的缺失。在资源受限的情况下,农民无法在不了解模型推荐原因的情况下根据模型建议采取行动,从而浪费了已经用于部署模型的计算资源。这些关于准确性、效率和可信度的相互关联的挑战激发了我们提出的框架的开发。
为了解决现有方法的局限性,本研究提出了一个框架,该框架包括多样化的时间特征、各种特征选择策略(基于过滤器的、基于包装器的和嵌入式的)以及前馈、循环、卷积和基于注意力的DL架构。通过使用特定站点的模型来处理空间异质性,并增加了多时间范围分类(最多可预测四周),以便于前瞻性决策。通过知识蒸馏(KD)解决了效率问题,该方法通过从更复杂的教师模型中转移知识来使用紧凑的学生模型,从而在不直接改变固定架构的计算规模的情况下实现高效训练和部署。
为了解决可解释性问题,提出了一个新的混合SHAP–关联规则解释框架(H-SARXAI)。H-SARXAI结合了模型驱动(SHAP)和数据驱动(关联规则挖掘)的方法,定量测量基于SHAP的模型解释与基于关联规则的特征属性之间的共识。它使用精度@k、覆盖率和Jaccard相似度等信任度指标,以确保模型解释的可靠性、一致性和全面性,从而结合了两种方法的优势,提供了对模型行为的更稳健理解。该提出的方法在西班牙安达卢西亚不同微气候和地区的橄榄物候阶段真实数据集上进行了评估,表现为时间序列分类任务。
本文的主要贡献如下:
  1. 1.
    一个模块化的端到端深度学习流程,支持分类和多时间范围预测(最多可预测四周),确保在不同物候站点上的时间一致性和空间适应性。
  2. 2.
    一种特征工程和选择策略,使用滞后特征(LF)、滚动窗口统计(RWS)、基于时间的循环特征(TBF)、指数移动平均(EMA)、滚动相关(RC)和傅里叶变换(FFTF)来捕捉多尺度时间动态。这与一种混合特征选择策略相结合,该策略整合了互信息(MI)、ANOVA F检验、LASSO、粒子群优化(PSO)等传统方法,并采用增量添加方案,以实现降维和对无关输入的鲁棒性。
  3. 3.
    对包括多层感知器(MLP)、长短期记忆(LSTM)、门控循环单元(GRU)、时间卷积网络(TCN)和Transformer架构在内的十种深度学习范式进行了广泛的基准测试,以确定最佳物候时间序列模型。此外,还采用了从循环和非循环教师架构到紧凑学生模型的知识蒸馏,从而在几种配置中实现了预测性能和计算效率之间的良好平衡,便于实际部署。
  4. 4.
    通过整合SHAP值和关联规则挖掘,开发了一种新的混合可解释性框架(H-SARXAI)。这允许在全局和局部层面进行一致的特征推理。定量信任度指标——精度@k、覆盖率和Jaccard相似度——评估解释的一致性,重新训练反馈循环评估重叠(可信)特征的预测效用。
本文的其余部分组织如下:第2节讨论相关工作。第3节详细介绍了问题表述。第4节解释了所提出的方法。第5节展示并讨论了结果,第6节总结了本文。

相关工作

相关工作

人工智能的最新进展显著增强了作物物候的建模能力,使得从多种数据源更准确地监测和预测生长阶段。因此,本节回顾了相关贡献,分为五个部分:用于物候预测的机器学习和深度学习方法(第2.1节)、混合和多模态架构(第2.2节)、数据融合策略(第2.3节)、农业建模中的可解释AI(XAI)(第2.4节)

方法论

本节介绍了所提出的方法论,其概述见图1。每个步骤在后续章节中进行了描述。
因此,问题表述见第3.1节。第3.2节详细介绍了数据预处理。第3.3节描述了新特征的生成过程,第3.4节介绍了如何选择最优子集。第3.5节详细介绍了用于时间序列分类的深度学习模型,而它们的超参数优化过程则

结果

本节详细介绍了用于评估多个站点和预测时间范围的所提出框架的实验协议。第4.1节介绍了物候数据集,包括其时空覆盖范围和标记过程。第4.2节提供了评估指标的数学定义,包括分类和计算性能。第4.3节概述了配置设置,如预测时间范围、数据分割和训练

讨论

本节对第4节中呈现的实验结果进行了全面分析,从方法论贡献、实际相关性和研究影响的角度对其重要性进行了说明。

结论

本研究提出了一个全面的、可解释的、可靠的深度学习框架,用于使用遥感时间序列数据进行物候分类。通过添加大型特征工程流程、组合特征选择策略和多种深度学习模型(包括GRU、LSTM、Transformer或SOM-DNN),该模型在表示物候阶段的复杂时间模式方面表现出稳健的性能。
其中一个贡献是

未引用内容

表4,算法3。

CRediT作者贡献声明

Naeem Ullah:撰写——原始草案、软件、数据管理。Andrés Manuel Chacón-Maldonado:验证、调查、数据管理。Francisco Martínez-álvarez:撰写——审阅与编辑、方法论、形式分析。Ivanoe De Falco:可视化、验证、资金获取。Giovanna Sannino:监督、项目管理、资金获取。

利益冲突声明

作者声明他们没有已知的可能会影响本文报告工作的竞争性财务利益或个人关系。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号