基于小样本数据的地理空间Transformer模型的中国南方丘陵地区土壤钾素空间制图

《Agronomy》：Spatial Mapping of Soil Potassium in a Hilly Area of Southern China Based on the Geospatial Transformer Model Adapted to Small-Sample Data

　　

作为ChatGPT-4V和科学计算模型（如AlphaFold 3）的底层模型，Transformer在土壤属性制图领域的应用值得探索。在这项研究中，研究人员旨在探讨Transformer模型在土壤钾素制图中的应用价值。为实现这一目标，研究人员使用随机森林（RF）、前馈神经网络（FNN）、一维卷积神经网络（1D-CNN）和地理空间Transformer（GT）模型对区域土壤全钾和速效钾的空间分布进行制图。此外，研究人员利用可解释性SHAP模型阐明各环境变量对模型的贡献。GT模型在全钾和速效钾建模中表现出最佳效果和精度。该模型将全钾预测精度（R²）提升至0.77，相对于RF模型、FNN模型和1D-CNN模型分别提高了208%、156.67%和41.54%。同时，将速效钾预测精度（R²）提升至0.42，相对于RF模型、FNN模型和1D-CNN模型分别提高了16.02%、88.34%和19.66%。地理特征解释模型揭示，红边指数对全钾和速效钾的空间分布表现出协同响应。在速效钾建模中，研究人员发现，由“物理定律”驱动而非纯数据驱动的GT模型，其精度不仅高于普通深度学习模型，还高于机器学习模型，这打破了传统上机器学习模型在小样本和少量特征变量下精度高于深度学习模型的规则，并证实了GT模型在土壤属性数据制图方面的巨大潜力。

**论文解读：《Agronomy》发表研究——基于地理空间Transformer的小样本土壤钾素空间制图**

**一、研究背景与问题**

土壤钾素是植物生长发育必需的大量营养元素，主要来源于土壤，其形态包括非特异性吸附钾、水溶性钾、特异性吸附钾、非交换性钾和矿物钾，其中前三者统称为速效钾。全钾与速效钾的空间分布对确定施肥措施和作物种植具有关键意义。中国南方红壤区（约占全国土壤总面积的23%）普遍存在土壤酸化和钾素缺乏两大问题：高温多雨气候加剧钾素淋失，过量氮肥施用和大气酸沉降进一步加速酸化，导致钾素流失。传统的土壤属性制图方法劳动强度大、效率低，而数字土壤制图虽已采用多元线性回归、随机森林（RF）、支持向量机、神经网络等方法，但精度仍有提升空间。近年来，深度学习模型如Transformer在自然语言处理和科学计算领域取得突破，但其应用于土壤属性制图（尤其是小样本场景）的研究尚属空白。当前，土壤钾素制图研究相对较少，且深度学习方法因样本量限制（土壤采样常属于小样本回归预测问题）而面临过拟合风险。因此，如何在小样本条件下利用深度学习模型提高土壤钾素制图精度，成为亟待解决的科学问题。

**二、研究内容与结论**

本研究以中国南方典型丘陵红壤区——江西省安义县（面积660.54 km2）为研究区，于2022—2023年采集229个表层土壤样品（深度20 cm），涵盖水田、旱地、果园和林地四种土地利用类型。研究人员采用RF、前馈神经网络（FNN）、一维卷积神经网络（1D-CNN）和地理空间Transformer（GT）四种模型，分别对全钾（TK）和速效钾（AK）进行空间制图，并通过SHAP解释模型分析各环境变量的贡献。结果表明：GT模型在两种钾素制图中均取得最高精度——全钾建模R²达0.77（RMSE=3.51 g/kg），较RF、FNN和1D-CNN分别提升208%、156.67%和41.54%；速效钾建模R²达0.42（RMSE=47.62 mg/kg），较RF、FNN和1D-CNN分别提升16.02%、88.34%和19.66%。GT模型通过地理位置编码（GeoPositionalEncoding）注入空间先验知识，在仅使用229个样本的条件下，实现了“物理定律驱动”而非纯数据驱动的建模，打破了小样本背景下深度学习模型精度通常低于机器学习模型的常规，证实了GT模型在土壤属性制图中的巨大潜力。该研究发表在《Agronomy》期刊上。

**三、关键技术方法**

研究采用的主要技术方法包括：（1）环境变量处理：从Google Earth Engine（GEE）平台获取Sentinel-2A影像（10 m/20 m波段），计算14个植被指数（如NDVI、NDVIre1、OSAVI等）；利用12.5 m分辨率数字高程模型（DEM）提取6个地形因子（高程、坡度、坡向、平面曲率、剖面曲率、地形湿度指数）；气象数据（温度、降水、蒸发）来自ERA5-Land和CRU TS，取30年平均值（1991—2020），经空间主成分分析（PCA）降维为前三个主成分；此外纳入河流距离（欧氏距离）和土地利用类型（哑变量）。所有栅格重采样至10 m分辨率并统一像元边界。（2）建模方法：RF模型经参数调优（全钾：n_estimators=378, min_samples_leaf=6, max_features=5, max_depth=5；速效钾：369, 5, 3, 7）；FNN为三层全连接网络（256-128-64神经元），含批量归一化（BN）、LeakyReLU激活和Dropout正则化；1D-CNN含三个卷积层（32/64/64滤波器，核大小2），后接全连接层和Dropout；GT模型采用三层编码器-解码器堆叠，四头注意力机制，输入为环境特征经线性映射至32维隐空间后与GeoPositionalEncoding编码的经纬度信息拼接，通过全局平均池化聚合序列维度。（3）精度评估：采用训练集与验证集8:2划分，以决定系数（R²）和均方根误差（RMSE）为指标。（4）解释性分析：利用SHAP DeepExplainer（通过WrappedGeoTransformer适配器将双输入转为单张量）进行特征归因分析。

**四、研究结果**

**3.1 土壤样品钾素含量描述性统计**
训练集中全钾含量范围为3.98–39.1 g/kg（均值18.8 g/kg），速效钾为20.7–243.00 mg/kg（均值84.09 mg/kg）；测试集全钾7.95–35.3 g/kg（均值18.23 g/kg），速效钾23.2–194 mg/kg（均值82.49 mg/kg）。变异系数均为中等变异（全钾0.404，速效钾0.414）。

**3.2 四种模型土壤钾素制图精度比较**
**3.2.1 全钾建模精度比较**
RF模型精度最低（R²=0.25），仅能区分不同土地利用类型间的钾素差异，无法捕捉地形渐变；FNN（R²=0.30）能识别全球尺度高程与坡度的渐变，但局部空间分布呈碎片化；1D-CNN（R²=0.544）通过卷积核提取局部突变特征，改善了局部碎片化；GT模型（R²=0.77）通过自注意力机制捕捉任意距离的空间依赖，同时兼顾宏观与微观渐变，局部碎片化程度最低。

**3.2.2 速效钾建模精度比较**
FNN精度最低（R²=0.223），仅在高程陡变区域有响应；1D-CNN（R²=0.351）识别了局部高程与坡向的渐变；RF（R²=0.362）进一步识别了不同土地利用类型的边界突变，但渐变区域不光滑；GT模型（R²=0.42）同时捕捉了全球和局部渐变及边界突变，空间分布最合理。

**3.3 基于SHAP的地理特征联合解释**
在全钾建模中，最重要的环境变量为NDVIre1和OSAVI（均为植被指数），其次为PCE2（蒸发主成分），表明红边波段与钾释放率存在协同响应。经纬度地理位置分别排第11和第19位，经度影响力远大于纬度。在速效钾建模中，最重要的变量为NDVIre2（红边植被指数），其次为PCT3（温度主成分）和DEM（高程）。DEM反映淋溶作用对速效钾的影响，经纬度排第7和第10位。

**五、讨论与结论**

**讨论部分总结：**
GT模型通过自注意力机制和地理位置编码，有效捕捉了多尺度空间依赖，其残差半变异函数分析显示，全钾残差方差低且范围长，速效钾残差方差高且范围短，符合成土原理（全钾受母质和区域成土作用主导，速效钾受施肥和耕作等局部管理影响）。与传统深度学习模型相比，GT在小样本条件下（229个样本）实现了优于RF的精度，突破了小样本场景下机器学习优于深度学习的常规。通过地理先验知识和参数约束，GT实现了“物理驱动”建模，为土壤科学小样本预测提供了新范式。在地理特征解释方面，红边植被指数（NDVIre1/OSAVI、NDVIre2）对两种钾素贡献显著，气候因子（PCE2、PCT3）和地形因子（DEM）分别通过影响蒸发、淋溶和母质分布主导钾素空间格局。高浓度速效钾集中于河流沿岸和耕作区，与人类活动（施肥）和母质（花岗岩地区全钾高）密切相关。

**结论翻译：**
本研究探索了将GT应用于土壤属性制图的建模潜力。基于三层四头注意力的GT模型成功捕捉了不同空间尺度的依赖关系，并预测了土壤全钾和速效钾含量。机器学习（RF）和深度学习（FNN、1D-CNN）模型被用于预测全钾和速效钾水平，并对结果进行了比较分析。当应用于土壤属性制图任务时，GT模型达到了比传统机器学习和深度学习模型更高的精度。这些发现证实了其在分析土壤数据方面的强适用性。此外，在使用小样本数据时，它保持了优越的建模精度。地理特征解释模型揭示，与红边指数相关的植被指数对全钾（NDVIre1和OSAVI）和速效钾（NDVIre2）的空间分布表现出协同响应，对建模贡献显著。此外，PCE2在全钾建模中贡献显著，PCT3在速效钾建模中贡献率高。这些发现表明气候因素显著影响钾素含量。DEM对土壤全钾和速效钾含量的建模均有显著贡献率，揭示由海拔变化引起的淋溶现象对土壤钾素含量有显著影响。预测制图结果表明，土壤全钾和速效钾浓度与母质分布表现出明确的相关性。高浓度速效钾与农业生产区重合，表明母质对全钾和速效钾浓度有显著影响，同时速效钾浓度也与人类活动相关。利用深度学习工具已改变了许多研究领域，包括计算机视觉、自然语言处理和医学图像分析。本研究展示了深度学习模型，特别是GT，在土壤属性建模中的潜力，同时为理解区域土壤钾素状况提供了参考，并进一步探索了区域土壤钾素供应潜力，最终促进土壤钾素的合理利用和保护。