MTC-TCN-Attn：基于TCN-注意力机制的多任务协同小麦土壤湿度预测方法

《Sensors》：MTC-TCN-Attn: A TCN-Attention-Based Multi-Task Collaborative Prediction Method for Wheat Soil Moisture

　　

小麦是全球最重要的主粮作物之一，土壤湿度在调节作物生长、灌溉管理和农业用水效率方面发挥关键作用。因此，准确的土壤湿度预测对精准农业和智能灌溉调度至关重要。然而，土壤湿度变化受气象条件、土壤层次和时间动态之间复杂相互作用的驱动，表现出强非线性特征与长期依赖，传统预测方法仍面临挑战。为解决上述问题，本研究提出了一种面向多变量小麦土壤湿度预测的多任务协同时序卷积网络-注意力模型（MTC-TCN-Attn, Multi-Task Collaborative Temporal Convolutional Network with Attention）。该框架将时序卷积网络（TCN, Temporal Convolutional Network）与多头自注意力机制（multi-head self-attention）相结合，其中因果卷积（causal convolution）和空洞卷积（dilated convolution）用于捕获多尺度时间依赖，注意力模块自适应识别信息量大的时间步并增强全局时间特征表示。进一步，研究人员构建了基于共享特征表示的多任务协同学习策略，以利用多个土壤湿度相关变量之间的内在相关性并提升模型泛化能力。在小麦田间数据上的实验表明，所提出的MTC-TCN-Attn模型在五个预测目标上均优于代表性基准模型，包括支持向量回归（SVR, support vector regression）、长短期记忆网络（LSTM, long short-term memory）、Transformer和多任务长短期记忆网络（MT-LSTM, Multi-Task Long Short-Term Memory），在R²、RMSE和MAE方面表现更优。对于三个主要土壤湿度状态变量，所提模型在表层土壤湿度（SSM, surface soil moisture）、亚表层土壤湿度（SUSM, subsurface soil moisture）和土壤湿度剖面（SMP, soil moisture profile）上的R²分别为0.9147、0.9651和0.9622。与单任务和多任务TCN基线相比，所提MTC-TCN-Attn模型通过有效整合时间依赖建模和跨任务信息共享，持续降低预测误差并提高鲁棒性。结果表明，所提框架为多变量土壤湿度预测提供了一种有效方法，并在智能灌溉管理和精准农业应用中具有潜力。

论文解读：MTC-TCN-Attn：基于TCN-注意力机制的多任务协同小麦土壤湿度预测方法

研究背景与问题：小麦是全球重要谷物作物，对全球粮食安全具有重要作用。土壤湿度是影响小麦生长发育和产量形成的关键环境因子，直接关系根系发育、养分运输、光合作用和籽粒形成。随着农业水资源压力增加和精准灌溉需求上升，准确监测与预测土壤湿度动态对优化灌溉调度、提高用水效率和支持精准农业管理十分重要。土壤湿度动态受降水、温度、蒸散发、前期湿度和不同土层湿度变化共同影响，具有显著非线性、时间性和滞后性。传统物理模型可从机理角度描述土壤水运移，但通常需要大量先验知识、环境参数和模型校准，在复杂农业条件下应用受限。机器学习和深度学习已用于土壤湿度预测，但仍存在三方面问题：许多方法将预测建模为独立单目标问题，未显式利用多个土壤湿度变量间互补信息和统计依赖；多任务学习虽可共享信息，但简单共享表示不一定同等有利于所有任务，异质目标统计分布和时间动态不同，直接参数共享可能引入任务干扰；TCN可通过因果卷积和空洞卷积高效捕获长期依赖并并行计算，但卷积时间建模主要依赖固定卷积参数，不显式区分历史时间步的不同重要性，而降水、蒸散发和温度对当前土壤水状况具有非均匀、时变滞后影响。因此，关键问题是在统一预测框架中联合利用跨变量依赖和非均匀时间依赖，预测多个异质土壤湿度相关目标。

研究人员开展了什么研究、结论与意义：研究人员提出MTC-TCN-Attn框架，同时预测五个异质土壤湿度相关变量：SSM、SUSM、SMP、表层土壤湿度异常（SSMA, surface soil moisture anomaly）和亚表层土壤湿度异常（SUSMA, subsurface soil moisture anomaly）。该框架使用共享TCN编码器从气象和土壤湿度序列提取多尺度时间特征，利用因果与空洞卷积保持时间因果性并扩大感受野；引入多头自注意力机制自适应评估不同历史时间步重要性并增强全局时间特征；采用多任务学习策略使相关预测目标共享时间表示和互补信息。实验表明，MTC-TCN-Attn在SSM、SUSM和SMP上取得较高R²，分别为0.9147、0.9651和0.9622，并在五个预测目标上优于SVR、LSTM、Transformer和MT-LSTM。相比单任务TCN，所提模型对SSM、SUSM和SMP的RMSE降低约12.7%、4.9%和4.9%。结论表明，整合时间依赖建模与跨任务信息共享可降低预测误差并提高鲁棒性，为多变量土壤湿度预测、智能灌溉管理和精准农业应用提供了有效途径。

关键技术方法概括：数据来源于NASA POWER（Prediction Of Worldwide Energy Resources）气象数据和NASA–USDA Enhanced SMAP（Soil Moisture Active Passive）Global Soil Moisture Data产品，研究对象为印度拉贾斯坦邦焦特布尔一个网格点（26.3° N，72.5° E），时间范围为2016年1月1日至2021年12月31日，经时间对齐后含2192个连续日记录。输入包括T2MDEW、PRECTOTCORR、WD10M、TS、T2M及SSM、SUSM，预测目标为SSM、SUSM、SMP、SSMA、SUSMA。采用30天滑动窗口进行一步预测，按时间顺序以80%/20%划分训练与测试，并设置2016–2019年训练/2020年测试、2017–2020年训练/2021年测试；Z-score标准化仅用训练集。模型以共享TCN编码器为核心，含4个残差块、64通道、卷积核3、膨胀率1、2、4、8，dropout为0.2；后接4头自注意力，键维16；采用硬参数共享多任务回归头和等权联合损失。对比模型包括单任务TCN、多任务TCN及SVR、LSTM、Transformer、MT-LSTM，并开展梯度冲突分析。

研究结果：
4.1 内部比较：多任务共享与自注意力的效应。通过单任务TCN、多任务TCN和MTC-TCN-Attn内部比较发现，仅硬参数共享未一致改善主要土壤湿度目标，SSM、SUSM、SMP的R²由0.8882、0.9614、0.9583降至0.8645、0.9465、0.9431，而SSMA由0.4905升至0.6216，SUSMA几乎不变。加入自注意力后，相比多任务TCN，MTC-TCN-Attn对SSM、SUSM、SMP的R²分别提高0.0502、0.0186和0.0191，RMSE降低约20.7%、19.3%和18.3%，并超过单任务TCN。相比单任务TCN，完整MTC-TCN-Attn对SSM、SUSM、SMP的RMSE降低约12.7%、4.9%和4.9%，SSMA降低约11.7%，SUSMA增加约4.3%。时间序列与散点结果显示，SSM、SUSM、SMP预测轨迹接近观测序列并集中于1:1参考线，异常变量离散度更大。结论是有效多任务预测不仅需要共享表示，还需要增强时间表示机制。

4.2 与代表性基准模型比较。通过将MTC-TCN-Attn与SVR、LSTM、Transformer和MT-LSTM比较，发现所提模型在五个目标上均取得最高R²、最低RMSE和MAE。相对每个目标最强外部基线，MTC-TCN-Attn对SSM、SUSM、SMP、SSMA、SUSMA的RMSE降低约47.3%、20.5%、39.4%、17.8%和12.6%。MT-LSTM虽也进行联合多输出预测，但在所有五个目标上均被MTC-TCN-Attn超越，说明性能增益并非仅由多任务学习解释，时间表示架构也贡献额外预测能力。

4.3 不同时间划分下的时间鲁棒性。除原始按时间80/20划分外，研究还设置Fold 1（2016–2019年训练、2020年测试）和Fold 2（2017–2020年训练、2021年测试）。MTC-TCN-Attn的SSM R²在原始、Fold 1、Fold 2下分别为0.9147、0.8586、0.9307；SUSM为0.9651、0.9689、0.9817；SMP为0.9622、0.9505、0.9745，SUSM和SMP三种设置下R²均高于0.95。Fold 2中MTC-TCN-Attn的RMSE达到SSM 0.7803、SUSM 1.2904、SMP 0.0172，低于原始划分。Fold 1误差较大，模型排序对测试期并非完全不变。结论是主要目标性能不限于单一训练-测试划分，但绝对指标随年份变化。

4.4 梯度冲突分析。通过计算多任务TCN和MTC-TCN-Attn逐任务梯度余弦相似度和冲突率，发现五个任务存在优化异质性。多任务TCN中，SSM、SUSM、SMP两两平均余弦相似度为0.164、0.319、0.369，冲突率17.9%–25.0%；SSMA与SSM、SUSM、SMP平均余弦相似度为?0.118、?0.049、?0.092，冲突率超过64%。引入自注意力后，SSM–SSMA平均余弦相似度由?0.118升至0.041，SSMA–SUSMA由0.027升至0.208，冲突率分别由64.3%降至50.0%、由46.4%降至21.4%；但SSM–SUSMA冲突率由64.3%升至78.6%，SUSM–SUSMA由42.9%升至67.9%，SSM–SUSM由25.0%升至39.3%。总体平均余弦相似度由0.0638变为0.0514，总体冲突率由47.14%变为48.93%。结论是任务间并非均匀协作，自注意力改变任务交互但未全局消除冲突。

讨论总结：
5.1 总体预测性能与模型比较表明，外部基准实验证实MTC-TCN-Attn有效性。相比SVR、LSTM、Transformer和MT-LSTM，该模型在五个目标上均取得最高R²和最低RMSE与MAE；相对每个目标最强外部基线，R²绝对增益为0.020–0.221，RMSE降低12.6–47.3%，MAE降低2.6–40.8%。MT-LSTM也被一致超越，说明增益来自共享策略和时间特征提取架构的结合。与既往多任务土壤湿度研究多处理同一变量不同预测期相比，本研究扩展到五个异质指标，并显式分析任务梯度合作竞争和时间划分泛化。
5.2 多任务学习效应与异常变量表现表明，多任务共享效果任务依赖强。单任务到多任务，SSM、SUSM、SMP的R²下降，SSMA上升，SUSMA几乎不变。梯度冲突提供负迁移机制证据：主要状态任务优化方向较一致，异常任务与主要任务冲突较高。SSMA在单任务下R²仅0.4905，联合训练可利用主要状态任务信息，正迁移超过梯度竞争，R²升至0.6216。加入自注意力后，SSM、SUSM、SMP的R²升至0.9147、0.9651、0.9622并超过单任务；SSMA和SUSMA降至0.6026和0.6692。异常变量基于日历期气候态标准化异常，气候参考未显式输入，且注意力作用于五个任务共享的时间特征。Yu et al.表明冲突梯度可阻碍多任务模型同时沿有利方向下降，Lee et al.表明不同相关程度任务的对称共享会引发负迁移。梯度结果表明MTC-TCN-Attn改进主要来自增强时间表示而非消除冲突，总体冲突率略增；更准确解释是自注意力增强全局时间依赖建模并重组任务交互，而非统一缓解负迁移。
5.3 不同时间划分下模型鲁棒性表明，三个设置训练期、测试期和目标分布不同，土壤湿度受年际气象、季节过程和极端干湿事件影响，数值不应完全一致。Fold 1差异可能主要来自独立全年测试集引起分布偏移，Fold 2纳入至2020年数据学习更近期动态。Fold 1中MTC-TCN-Attn对SSM、SUSM、SMP取得最低MAE，但并非所有RMSE和R²最优；Fold 2五个任务均最佳。两个年度折平均后，MTC-TCN-Attn对每个目标平均R²更高、平均RMSE和MAE更低。结论是原始划分并非唯一决定，模型具时间稳健性，但评估需考虑时间分布变化。
5.4 模型适用性与研究局限表明，MTC-TCN-Attn主要适用于具有连续气象和土壤湿度历史观测的多变量时间序列联合预测；当其他区域变量定义相同或相似时，同一建模框架可重训和评估。但数据仅来自印度拉贾斯坦邦焦特布尔一个空间网格（26.3° N，72.5° E），2016–2021年，当前实验主要评估该地点预测性能及不同时间期稳定性，尚不足以全面评估跨地理区域迁移性。不同区域降水、温度、土壤性质、种植制度和农业用水管理不同，可能改变气象变量与土壤湿度统计关系和时间响应，因此结果不应直接解释为适用于所有气候区、土壤类型和农业生长条件。未来工作将引入动态任务加权、任务特定分支或梯度纠正策略，并纳入多个独立空间网格或研究区域，采用空间块验证、留一地点验证和跨区域独立测试评估空间迁移性和适用性。

结论翻译：本文研究小麦土壤湿度多目标协同预测，提出多任务学习框架MTC-TCN-Attn，将TCN与多头自注意力机制结合。通过结合时间特征提取和自适应时间依赖建模，该框架旨在解决传统土壤湿度预测在捕获长期依赖和利用多个土壤湿度相关变量相关性方面的局限。研究人员基于共享TCN特征提取主干建立多任务预测架构，采用因果卷积、空洞卷积和残差连接提取多尺度时间表示；进一步在TCN编码器后引入多头自注意力模块，动态赋予信息时间步权重并增强长程时间依赖表示。为全面评估，研究人员首先建立三个渐进模型变体，即单任务TCN、多任务TCN和MTC-TCN-Attn，以分别检验多任务学习和自注意力效应；进一步与SVR、LSTM、Transformer和MT-LSTM进行外部基准比较，开展不同时间数据划分下的时间鲁棒性实验和任务梯度冲突分析。实验结果表明，所提MTC-TCN-Attn对主要物理土壤湿度变量SSM、SUSM和SMP取得优越预测性能，R²分别为0.9147、0.9651和0.9622。与单任务TCN和多任务TCN相比，所提模型RMSE和MAE更低，表明预测精度和鲁棒性提高。进一步分析表明，多任务学习策略通过共享特征表示有效利用不同土壤湿度相关变量内在相关性，提高泛化能力；自注意力机制通过自适应识别关键时间信息并补偿TCN动态赋权不同时间步的局限，进一步提高预测性能。除消融比较外，所提模型还与SVR、LSTM、Transformer和MT-LSTM等代表性机器学习和深度学习基线比较。MTC-TCN-Attn在全部五个预测目标上取得最高R²、最低RMSE和MAE；相对每个目标每个指标最强外部基线，R²绝对增益为0.020–0.221，RMSE降低12.6–47.3%，MAE降低2.6–40.8%。与现有多任务土壤湿度研究主要将同一变量不同预测期作为相关任务相比，所提框架通过整合多尺度TCN特征提取和自注意力联合建模异质湿度状态与异常变量，其总体优势得到时间留出实验支持。总体而言，所提MTC-TCN-Attn框架通过联合建模时间依赖和跨任务相关性，为多个土壤湿度变量联合预测提供有效方案。所提方法提高复杂土壤湿度动态表示能力，为智能灌溉管理、精准农业和土壤水资源优化提供有前景的建模方法。未来研究将纳入更多环境变量并探索更自适应多任务优化策略，以进一步提高模型在多样农业条件下的迁移性和适用性。