用于土壤有机碳估算的图神经网络:高效处理多模态空间依赖性的数据建模方法

《Machine Learning with Applications》:Graph neural networks for Soil Organic Carbon Estimation: Data-efficient modeling of multimodal spatial dependencies

【字体: 大 中 小 】 时间:2026年03月10日 来源:Machine Learning with Applications 4.9

编辑推荐:

  米格尔·A·弗洛雷斯·桑切斯(Miguel A. Flores Sánchez)| 马特奥·X·索利兹·维拉富埃尔特(Mateo X. Soliz Villafuerte)| 拉蒙·A·莫利内达(Ramón A. Mollineda) 模式集团(MODES Group),数学

  米格尔·A·弗洛雷斯·桑切斯(Miguel A. Flores Sánchez)| 马特奥·X·索利兹·维拉富埃尔特(Mateo X. Soliz Villafuerte)| 拉蒙·A·莫利内达(Ramón A. Mollineda)
模式集团(MODES Group),数学系,科学学院,国立理工学院,基多,170517,厄瓜多尔

**摘要**
土壤有机碳(SOC)是土壤肥力的关键指标,也是碳循环的组成部分,然而其直接测量仍然成本高昂、耗时且空间分布稀疏。在这项工作中,我们研究了图神经网络(GNNs)在数据受限条件下的潜力与局限性,特别关注基于图的学习方法论方面。利用2018年来自葡萄牙南部贝贾地区(Beja)的地理参考数据集,我们将来自多光谱卫星图像(Sentinel-1、-2和-3)、地形数据(Copernicus DEM)以及气象记录(Climatic Research Unit)的异构协变量整合到一个基于赫弗辛距离(Haversine distances)构建的空间图中。该研究采用了双重评估策略,将基于传输的学习范式(在固定图中重复随机划分节点)与通过“留一法”(leave-one-cluster-out)实现的更严格的归纳学习方法进行对比。虽然GNN能够在传输学习环境中收敛并泛化,但归纳学习在小空间图中遇到了与图碎片化和结构分布变化相关的重大挑战。为了进一步探究模型行为,我们利用传统机器学习方法(随机森林、XGBoosting)的内在机制进行了特征相关性和稳定性分析。结果并未支持激进的特征选择,而是突出了分布式、依赖于上下文的相关性模式,并强调了将评估协议与基于图的模型的结构假设对齐的重要性。总体而言,本研究为在低样本量、异构地理空间环境中使用GNN进行SOC估计提供了方法论见解,为未来的土壤监测和环境建模应用提供了参考。

**1. 引言**
土壤有机碳(SOC)是土壤肥力的关键指标,因为它反映了特定地理区域内储存的碳量。这一成分在全球碳循环中起着至关重要的作用,并与气候变化直接相关。根据Lal(2004)的研究,SOC显著影响土壤肥力、水分保持能力和养分可用性,这些都是确保农业可持续性和生物多样性保护的重要因素。Burbano Orjuela(2018)和Mu?oz Rojas等人(2021)的研究也强调了测量和监测SOC水平的重要性,以实施有效的减缓气候变化和防止荒漠化的策略。由于SOC在农业中的作用,它可能带来正面或负面的经济影响,如Salazar Zavala等人(2018)所指出的那样。
给定区域内SOC的空间分布受到气候、地形和土壤特定因素的复杂相互作用的影响。He、Tang、Li和Ren(2022)发现,在中国龙溪县,不同土壤深度的SOC密度与气候变量(降水量和温度)以及地形因素(海拔和坡度)显著相关。同样,Tan等人(2024)通过深度学习模型表明,虽然气候在大陆尺度上是较强的预测因子,但在局部情况下,地形属性(如坡度和朝向)的影响更大,占SOC空间模型预测能力的三分之一以上。这些发现共同证实了SOC分布的变异性及其由环境梯度和土壤属性共同作用驱动的事实。
传统的精确SOC测量方法(如实验室采样)通常成本高昂、耗时,并且难以覆盖广阔的地理区域(Gonzales Sánchez等人,2024)。此外,许多这些成熟方法具有侵入性、破坏性,并可能损害土壤质量。为了解决这些限制,多年来开发了多种方法来测量、估计和预测土壤属性,包括SOC、土壤有机质(SOM)和pH值。其中,数字土壤制图(DSM)作为一种创新方法,通过整合遥感技术、地理信息系统(GIS)和建模技术(Lagacherie和McBratney,2006;McBratney等人,2003;Scull等人,2003)生成高精度的土壤地图。
近年来,DSM方法越来越多地关注通过分析土壤属性的空间分布及其对土壤健康的直接和间接影响来绘制土壤特征(Emadi等人,2020)。这些方法在土壤学和土壤学等领域被证明非常有益(Kalambukattu等人,2018)。遥感数据与环境变量的结合证明了这些方法的有效性。例如,Manzi等人(2023)成功从卫星数据中提取了肯尼亚的土壤pH值,以改进作物规划,而Ma等人(2024)通过结合多幅卫星图像和环境数据提高了SOM预测的准确性。
特别是多光谱和高光谱卫星图像显著推进了SOC估计的发展。Sorenson等人(2022)强调了近红外(NIR)和短波红外(SWIR)波段在SOC预测中的重要性,因为这些光谱特征与其有机碳含量有很强的相关性。Filippi等人(2024)报告称,Landsat图像,尤其是蓝色和SWIR1波段,在SOC建模中与其他土壤属性一起起着关键作用。这些光谱波段的整合显著提高了SOC估计模型的预测准确性,使其成为农业和环境应用中的宝贵工具。
鉴于对准确高效SOC估计的日益增长的需求,最近的研究越来越多地关注机器学习(ML)和深度学习(DL)方法。这些模型利用气象、地理空间、卫星和土壤数据提供高精度的土壤属性预测,包括SOC。多项研究(Doran和Zeiss,2000;Heuvelink等人,2021;Shafizadeh-Moghadam等人,2022;Zhou等人,2020)表明,ML和DL方法不仅改善了土地管理和环境评估,还有助于更深入地理解土壤健康状况,支持可持续农业实践和明智的决策制定。
在DSM中最广泛使用的ML模型包括支持向量回归(SVR)、人工神经网络(ANN)、随机森林(RF)和回归树(Khaledian & Miller,2020)。例如,Were等人(2015)在阿弗朗蒙特地区(Afromontane environment)比较了SVR、ANN和RF用于SOC储量估计,选择SVR作为最有效的ML模型。同样,Dharumarajan等人(2017)在印度南部使用RF技术进行关键土壤属性的空间预测,取得了高模型性能。RF模型因其能够捕捉变量之间的复杂非线性关系而被广泛用于土壤制图(Shafizadeh-Moghadam等人,2022;Yang等人,2021;Zepp等人,2021;Zhou等人,2020)。
DL方法,特别是卷积神经网络(CNNs)、循环神经网络(RNNs)、自编码器(AEs)、生成对抗网络(GANs)和深度信念网络(DBNs),进一步推进了SOC估计(Zhu等人,2017)。DL模型在识别光谱数据与土壤属性之间的复杂非线性关系方面表现出色,优于传统的地理统计和经典ML方法(Zhang等人,2021)。在Behrens等人(2018)的研究中,作者开发了一种基于DL的方法,用于从多尺度地形属性映射土壤质地和锌浓度,展示了DL模型在预测土壤属性方面的优越性能。最近的研究表明,CNNs在同时预测多个土壤属性方面特别有效。这些模型已成功应用于环境建模和地理空间参数预测(Ng等人,2019;Padarian等人,2019;Wadoux,2019),并用于根据卫星图像分类土壤团聚体(Azizi等人,2020)。这些研究为DL技术在土壤属性估计中的优越性能提供了有力证据。
尽管ML和DL方法显著改进了SOC估计,但仍存在一些挑战,尤其是在捕捉土壤数据点之间的空间依赖性和相互作用方面。传统的ML模型(如RF)通常独立处理数据,忽略了影响SOC分布的潜在空间关系。为克服这些限制,图卷积网络(GCNs)作为一种有前景的替代方案出现(Wu、Pan、Chen等人,2021)。GCNs明确模拟了相邻位置之间的空间关系,这可能提高SOC估计的准确性。最近的研究(如Fan等人,2023)成功应用GCNs进行土壤质量评估,显示出高准确性和可行性。GCNs可以将土壤数据表示为图,其中节点对应于地理位置,边表示空间关系(例如,地理邻近性或地形相似性)。通过结合地球观测数据和环境变量,GCNs能够捕捉局部土壤特征和更广泛的空间相关性,超越了传统ML模型的能力。

图神经网络(GNNs)和GCNs在多个领域证明了其多功能性。在计算机视觉中,它们被应用于场景图生成和点云分类(Johnson等人,2018;Landrieu和Simonovsky,2018;Li、Chen和Koltun,2018;Te等人,2018;Wang等人,2019;Xu等人,2017;Yang等人,2018)。在自然语言处理中,它们模拟句法依赖性以增强文本分类和机器翻译(Bastings等人,2017;Marcheggiani等人,2018;Marcheggiani和Titov,2017;Song等人,2018)。在交通预测中,它们通过时空图预测车辆流量(He、Chen等人,2022;Zhang等人,2018)。在推荐系统中,它们有助于预测用户-产品交互(van den Berg等人,2017;Ying等人,2018);在化学中,它们模拟分子以预测性质和合成化合物(De Cao和Kipf,2018;Gilmer等人,2017;Kearnes等人,2016;Li等人,2018)。此外,它们还在脑网络(Kawahara等人,2017)、事件检测(Nguyen & Grishman,2018)和组合优化(Li、Chen和Koltun,2018)中得到应用,展示了它们在结构化问题解决中的潜力。
本研究通过将GNNs应用于SOC估计,并将其性能与传统的机器学习模型(如RF、极端梯度提升(XGBoost)和多层感知器(MLP)进行基准测试,填补了一个关键的研究空白。从方法论角度来看,这项工作通过对数据约束下的学习范式、特征相关性和模型行为进行联合研究,为基于图的学习提供了系统和批判性的评估。具体而言,我们提供了传输学习和归纳学习GNN协议的系统比较。这一分析还通过基于RF和XGBoost内在机制的特征相关性和稳定性诊断评估进行了补充,对比了两种模型之间的特征使用模式,揭示了不同归纳偏差如何在低样本条件下利用异构协变量。这些分析不仅关注预测性能,还提供了关于如何解释模型行为、评估鲁棒性以及为小规模、空间结构化数据集设计基于图的环境建模评估策略的实际方法论指导。本研究的主要贡献可以总结如下:
•首先,据我们所知,这是首次将GNNs应用于SOC估计,引入了一种针对空间土壤数据的基于图的建模方法。
•其次,对当前SOC预测文献进行了全面回顾,确定了关键差距和未来方向。
•第三,系统比较了使用GNNs进行SOC估计的传输学习和归纳学习范式,强调了图结构的保持或破坏对数据受限环境中收敛性和泛化能力的关键影响。
•第四,提供了一个综合的多模态数据集,将SOC观测值与空间属性和卫星衍生变量联系起来,为在空间异构条件下评估SOC预测模型建立了可复制的基准。
•最后,为未来的基于图的环境建模研究提供了指导,提供了关于在应用GNNs到小规模、空间结构化数据集时评估协议、数据可用性和图构建选择的实际见解。

**2. 材料与方法**
2.1. 研究区域
本研究依赖于在葡萄牙南部阿连特茹地区(Alentejo region)的贝贾(Beja)地区获取的多模态、地理参考数据。贝贾是该国最大的地区,面积约为10,257平方公里。该地区位于里斯本东南方向约180公里处,地理坐标范围为西经6°55′至8°49′,北纬37°19′至38°16′,如图1所示。研究区域的行政边界数据来源于DIVA-GIS。贝贾(Beja)以其多样的地貌而闻名,包括广阔的平原、起伏的丘陵和肥沃的农业用地,这使其成为葡萄牙重要的农业中心。该地区具有地中海气候特征,夏季炎热干燥,冬季温和湿润,这些气候条件影响了当地的自然植被和农业生产方式(Harris等人,2020年)。由于其独特的气候、多样的地貌和重要的农业地位,贝贾为环境科学、农业、气候变化影响及区域发展研究提供了理想的实验场所,有助于深入了解地中海气候下农村地区的挑战与机遇。

最近的研究强调了贝贾在地中海气候压力下的环境和农业重要性。Nascimento等人(2024年)研究了阿尔克瓦灌溉计划(Alqueva Irrigation Scheme)对贝贾岩层(Gabros de Beja)含水层的影响,发现由于灌溉和土地利用变化导致降水量减少、蒸发蒸腾增加以及地下水盐碱化。同样,Silva等人(2022年)分析了贝贾理工学院周边地区的气候条件,指出高温夏季和干旱期对空气质量及大气动态的影响。近几十年来,由于阿尔克瓦大坝建立的广泛灌溉系统,贝贾地区的粮食产量显著增加,尤其是小麦和玉米的产量,从而引发了土地利用和土壤有机碳(SOC)动态的重大变化。以下部分将描述2018年贝贾地区土壤有机碳含量估算所收集的数据。

多项研究(Bagheri Bodaghabadi等人,2015年;Gomez等人,2008年;Kalambukattu等人,2018年;Vasiliniuc等人,2013年)表明,有机碳含量的主要预测因子与光谱指数和地形特征(如朝向、海拔、平面曲率和坡度)直接相关。另一方面,Valenzuela-Balcázar等人(2022年)和Cruz-Sánchez等人(2021年)指出,气象变化,特别是气候和降水变化,对有机碳含量有显著影响。本研究整合了2018年的多种数据来源,这些数据来自不同的数据库,并使用QGIS软件进行处理以进行全面分析。数据包括实地测量的有机碳点数据、卫星图像的光谱信息、地形数据以及气候数据。地表有机碳含量测量是在143个地理参考点进行的网格采样,为研究提供了目标值。总之,这个多模态数据集包含143个数据点,由47个预测变量组成,详见表1。这些数据预计能为贝贾地区有机碳含量的准确分析和估算提供关键信息,从而支持本研究的目标。

在数据获取成本高昂或受到物流限制的领域,从有限且异构的数据中学习是一项关键能力。在这种情况下,模型必须从稀疏、噪声较大且多样化的信息源中提取出稳健且可泛化的模式。这对任何学习方法都提出了高要求,考验了其开发数据高效、具有韧性和情境感知智能的能力。本研究通过Google Earth Engine平台获取了卫星图像,这些图像提供了Sentinel-1、Sentinel-2和Sentinel-3卫星的年度光谱数据。此外,还使用了来自Copernicus DEM卫星的地形数据,以及Climatic Research Unit(CRU)数据库中的2018年年均降水量和温度数据。CRU提供的气候变量以其原始空间分辨率(约1公里)使用,而地形和遥感预测因子则捕捉30米分辨率下的精细空间变化。对于非基于图像的方法,还加入了两个额外特征——有机碳采样位置的纬度和经度,以捕捉数据集中的地理空间模式。所有这些图像的波段都被用作预测变量来估算有机碳含量。图2展示了Sentinel-1、Sentinel-2和Sentinel-3卫星光谱波段的可视化示例。

表1. 来自多个数据源的47个数据特征总结。

**2.2. 数据**
多项研究(Bagheri Bodaghabadi等人,2015年;Gomez等人,2008年;Kalambukattu等人,2018年;Vasiliniuc等人,2013年)指出,有机碳含量的主要预测因子与光谱指数和地形特征(如朝向、海拔、平面曲率和坡度)直接相关。另一方面,Valenzuela-Balcázar等人(2022年)和Cruz-Sánchez等人(2021年)强调,气象变化,特别是气候和降水变化,对有机碳含量有显著影响。

在本研究中,整合了2018年的多种数据来源。这些数据来自不同的数据库,并使用QGIS软件进行处理以进行综合分析。数据包括有机碳点数据(实地测量的有机碳含量)、卫星图像的光谱信息、地形数据和气候数据。地表有机碳含量测量是在143个地理参考点进行的网格采样,为研究提供了目标值。该多模态数据集包含143个数据点,由47个预测变量组成,详见表1。这些数据预计能为贝贾地区有机碳含量的准确分析和估算提供关键信息,从而支持本研究的目标。

在数据获取成本高昂或受到物流限制的领域,从有限且异构的数据中学习是一项关键能力。在这种情况下,模型必须从稀疏、噪声较大且多样化的信息源中提取出稳健且可泛化的模式。这对任何学习方法都提出了高要求,考验了其开发数据高效、具有韧性和情境感知智能的能力。本研究通过Google Earth Engine平台获取了卫星图像,这些图像提供了Sentinel-1、Sentinel-2和Sentinel-3卫星的年度光谱数据。此外,还使用了来自Copernicus DEM卫星的地形数据,以及Climatic Research Unit(CRU)数据库中的2018年年均降水量和温度数据。CRU提供的气候变量以其原始空间分辨率(约1公里)使用,而地形和遥感预测因子则捕捉30米分辨率下的精细空间变化。对于非基于图像的方法,还加入了两个额外特征——有机碳采样位置的纬度和经度,以捕捉数据集中的地理空间模式。所有这些图像的波段都被用作预测变量来估算有机碳含量。图2展示了Sentinel-1、Sentinel-2和Sentinel-3卫星光谱波段的可视化示例。

**表1. 来自多个数据源的47个数据特征总结。**

**2.2.1. 有机碳数据**
本研究使用的有机碳数据来自两个可靠的来源:欧洲土壤数据中心(ESDAC)和国际土壤参考与信息中心(ISRIC),数据涵盖2018年的数据。有机碳数据是根据国际土壤组织(ISO)的标准收集和分析的土壤样本。每个土壤样本都带有精确的地理坐标(纬度和经度),并包含0-40厘米深度范围内的有机碳含量信息。共收集了143个地理参考的土壤样本,提供了关于有机碳含量的详细信息及其精确的空间位置,如图3所示。这些样本的地理坐标是提取和整合表1中列出的各种环境和空间特征的关键,同时确保了它们与有机碳测量的时空对齐。尽管卫星图像覆盖了数千平方公里的大面积区域,但每个坐标都能确定对应的有机碳采样位置。

**图3. 地表有机碳含量的空间分布。**

为了研究有机碳含量的分布,图4(a)展示了一个直方图,显示出较低值的集中和较高值(异常值)的长尾分布。为了解决这个问题并提高数据用于预测建模的适用性,应用了自然对数变换(LN(SOC))。这种变换有效降低了偏度,使得分布接近正态分布,如图4(b)所示,有助于减轻异常值的影响并稳定方差。

**图4. 有机碳含量分布:左图为原始分布;右图为对数标准化后的近似正态分布。**

**2.2.2. 有机碳含量的全局和局部空间自相关**
使用Moran’s I统计量评估了有机碳含量的全局空间自相关性,以判断有机碳含量值在整个研究区域内是否存在系统性的空间依赖性。Moran’s I衡量的是观测值之间的相似程度,取决于空间邻近性,定义为:
$$I = \frac{n\sum_{i=1}^{n}\sum_{j=1}^{n} w_{ij}(x_i - \bar{x})}{(x_j - \bar{x})^2}$$
其中n表示采样点的数量,$x_i$和$x_j$分别是位置i和j的有机碳含量值,$\bar{x}$是平均有机碳含量值,$w_{ij}$表示位置i和j之间的空间权重,$S_0$是所有空间权重的总和。

在计算Moran’s I之前,有机碳含量值被标准化为零均值和单位方差。这种标准化确保了统计量反映的是相对于全球平均值的偏差,而不是绝对数值,便于解释Moran散点图,并允许空间滞后在可比的尺度上表达。因此,Moran散点图中回归线的斜率直接对应于全局Moran’s I系数。

空间权重矩阵是使用基于Haversine距离的k最近邻方法(k=3)构建的。权重定义为点间距离的倒数,并进行了行标准化,以便空间滞后对应于相邻有机碳含量的加权平均值。统计显著性通过蒙特卡洛排列测试进行评估,对观测到的有机碳含量值进行了999次随机排列。在空间随机性的零假设下,假设有机碳含量值在指定的空间权重矩阵条件下是空间独立的。观测到的全局Moran’s I值为I=-0.065,基于排列的p值为p=0.179。因此,在α=0.05的显著性水平下,不能拒绝零假设,表明有机碳含量没有显著的全局空间自相关性。

**图5. Moran散点图**提供了这一结果的补充图形解释。回归线的接近零且略微负的斜率表明有机碳含量值与邻近位置的平均有机碳含量之间几乎没有关联。点在四个象限中的广泛分散进一步表明,局部偏离全球平均值的情况与它们的空间背景没有系统性的关联,这与分析尺度上的随机空间结构一致。

为了进一步研究可能未被全局统计量捕捉到的局部空间模式,通过Moran象限图检查了局部空间关联指标(LISA)。LISA将全局Moran’s I分解为特定位置的贡献,从而识别局部簇(高-高和低-低)和空间异常值(高-低和低-高)。在异构的环境系统中,这种局部视角特别重要,因为空间依赖性可能只在有限区域内表现出来,而不是在区域尺度上。

**图5. Moran散点图**显示了标准化有机碳含量值与其空间滞后的关系。拟合回归线的斜率对应于全局Moran’s I系数。

**2.2.2.1. 有机碳数据**
本研究使用的有机碳数据来自两个可靠的来源:欧洲土壤数据中心(ESDAC)和国际土壤参考与信息中心(ISRIC),数据涵盖2018年的数据。有机碳数据包括根据国际土壤组织(ISO)标准收集和分析的土壤样本。每个土壤样本都带有精确的地理坐标(纬度和经度),并包含0-40厘米深度范围内的有机碳含量信息。共收集了143个地理参考的土壤样本,提供了关于有机碳含量的详细信息及其精确的空间位置,如图3所示。这些样本的地理坐标是提取和整合表1中列出的各种环境和空间特征的关键,同时确保了它们与有机碳测量的时空对齐。尽管卫星图像覆盖了大面积区域,但每个坐标都能确定对应的有机碳采样位置。

**图3. 地表有机碳含量的空间分布。**

为了研究有机碳含量的分布,图4(a)展示了一个直方图,显示出右偏态,即较低值集中,较高值(异常值)分布较广。为了解决这个问题并提高数据的预测建模适用性,应用了自然对数变换(LN(SOC))。这种变换有效降低了偏度,使得分布接近正态分布,如图4(b)所示,有助于减轻异常值的影响并稳定方差。

**图4. 有机碳含量分布:左图为原始分布;右图为对数标准化后的近似正态分布。**

**2.2.2. 有机碳含量的全局和局部空间自相关**
使用Moran’s I统计量评估了有机碳含量的全局空间自相关性,以判断有机碳含量值在整个研究区域内是否存在系统性的空间依赖性。Moran’s I衡量的是观测值之间的相似程度,作为空间邻近性的函数,定义为:
$$I = \frac{n\sum_{i=1}^{n}\sum_{j=1}^{n} w_{ij}(x_i - \bar{x})}{(x_j - \bar{x})^2}$$
其中n表示采样点的数量,$x_i$和$x_j$分别是位置i和j的有机碳含量值,$\bar{x}$是平均有机碳含量值,$w_{ij}$表示位置i和j之间的空间权重,$S_0$是所有空间权重的总和。

在计算Moran’s I之前,有机碳含量值被标准化为零均值和单位方差。这种标准化确保了统计量反映的是相对于全球平均值的偏差,而不是绝对数值,便于解释Moran散点图,并允许空间滞后在可比的尺度上表达。因此,Moran散点图中回归线的斜率直接对应于全局Moran’s I系数。

空间权重矩阵是使用基于Haversine距离的k最近邻方法(k=3)构建的。权重定义为点间距离的倒数,并进行了行标准化,以便空间滞后对应于相邻有机碳含量的加权平均值。统计显著性通过蒙特卡洛排列测试进行评估,对观测到的有机碳含量值进行了999次随机排列。在空间随机性的零假设下,假设有机碳含量值在指定的空间权重矩阵条件下是空间独立的。观测到的全局Moran’s I值为I=-0.065,基于排列的p值为p=0.179。因此,在α=0.05的显著性水平下,不能拒绝零假设,表明有机碳含量没有显著的全局空间自相关性。

**图5. Moran散点图**提供了这一结果的补充图形解释。回归线的接近零且略微负的斜率表明有机碳含量值与邻近位置的平均有机碳含量之间几乎没有关联。点在四个象限中的广泛分散进一步表明,局部偏离全球平均值的情况与它们的空间背景没有系统性的关联,这与分析尺度上的随机空间结构一致。

为了进一步研究可能未被全局统计量捕捉到的局部空间模式,通过Moran象限图检查了局部空间关联指标(LISA)。LISA将全局Moran’s I分解为特定位置的贡献,从而识别局部簇(高-高和低-低)和空间异常值(高-低和低-高)。在异构的环境系统中,这种局部视角特别相关,因为空间依赖性可能只在有限区域内表现出来,而不是在区域尺度上。这种模式表明了明显的局部尺度异质性,并暗示土壤有机质(SOC)的变化主要受特定地点条件的影响,而不是由平滑的空间梯度所控制。综合来看,全球Moran’s I统计量、Moran散点图和LISA象限图一致表明,在研究的尺度上,SOC没有表现出有意义的空间自相关性,其变化主要由局部模式而非大尺度空间依赖性所决定。下载:下载高分辨率图像(198KB)下载:下载全尺寸图像图6. 土壤有机质(SOC)的局部Moran’s I(LISA)象限图。点根据标准化SOC值及其空间滞后(高-高、低-低、高-低、低-高)进行分类。

2.2.3 卫星图像数据
2.2.3.1 Sentinel-1卫星图像
Sentinel-1卫星是欧盟哥白尼计划的一部分,由欧洲航天局(ESA)运营。它们配备了合成孔径雷达(SAR),这是一种主动遥感技术,可以发射微波信号并测量地球表面的反射响应。SAR能够在任何天气条件或光照下进行一致的图像采集,非常适合时间序列分析。Sentinel-1以两种极化模式运行:VV(垂直发射,垂直接收)和VH(垂直发射,水平接收),能够检测表面粗糙度、湿度变化和结构变化。对于这项研究,通过平均VV、VH和VH/VV比率波段来编译年度SAR图像。所有波段都使用双线性插值在Google Earth Engine中重采样到30米的空间分辨率。选择这种方法是因为它保持了后向散射值的连续性,减少了突然的空间伪影,并且适用于雷达后向散射等连续变量,从而支持更准确的空间和时间分析。通过将全年多个Sentinel-1 SAR采集的图像聚合成单一的代表性图像来创建时间序列合成图像。这一过程减少了短期变化和斑点噪声,增强了时间稳定性,并提高了用于SOC预测的特征的可靠性。每个SOC采样点(经度,纬度)使用QGIS与其在合成图像中的对应像素进行了空间匹配。提取了交叉像素的VV、VH和VH/VV值,确保遥感变量准确代表了每个土壤采样位置的雷达信号。

2.2.3.2 Sentinel-2卫星图像
与Sentinel-1类似,Sentinel-2卫星也是欧盟哥白尼计划的一部分,专为地球监测设计。这些卫星提供具有不同空间分辨率的多光谱图像,便于详细分析植被、水体和地表。Sentinel-2数据包括几个光谱波段,详见表1。对于这项研究最相关的波段是B2(蓝色)和B3(绿色),它们可以分析植被覆盖和地表特征。B4(红色)波段对于评估植被健康状况至关重要,而B8(近红外)波段对于估算植被生物量和密度非常关键。此外,B5(近红外1)和B6(近红外2)波段提供了关于生态系统健康的进一步见解。B11和B12(短波红外)波段有助于分析土壤湿度。SOC点坐标在QGIS中叠加在Sentinel-2镶嵌图像上,并检索了与采样位置交叉的像素的光谱反射率值,确保每个土壤观测都与多光谱信息直接相关。

2.2.3.3 Sentinel-3卫星图像
Sentinel-3卫星(S3)也是哥白尼计划的一部分。它们提供用于监测陆地、海洋、冰层和大气条件的数据。S3提供了21个不同范围的光谱波段的数据,包含有关地表温度、植被和水体的信息。这项研究使用的图像空间分辨率为30米。Sentinel-3卫星的光谱波段被分为几类,以便详细分析地表及其特征。B1至B3(可见光范围)波段主要用于植被分析、水质和其他地表特征。B4至B6(近红外)波段提供了关于植被和生物量的重要信息,有助于评估生态系统健康状况。B7和B8(短波红外)波段专注于土壤湿度,这对生态系统监测至关重要。B9至B12(热红外和短波红外)波段用于测量地表温度和评估气候条件及土壤湿度。最后,B13至B21(热红外、水和大气)波段提供了关于地表温度、大气状态和水体的信息,支持气候和环境分析。这些波段共同实现了全面的生态系统和环境监测。对于Sentinel-3,通过合成图像识别出每个SOC位置的像素,并收集了该像素的相关波段的光谱信息,建立了实地测量与卫星衍生变量之间的直接联系。

2.2.3.4 哥白尼DEM - 地形数据
通过Google Earth Engine访问的哥白尼DEM卫星数据集被用来推导出与SOC建模相关的几个地形变量,所有这些变量的空间分辨率为30米。这些变量包括坡度,它反映了地形倾斜度,对于评估侵蚀风险和地表径流至关重要;朝向,它表示坡度的方向,影响太阳辐射暴露和植被模式;以及海拔高度,这对于理解气候和生态梯度至关重要。地形湿度指数(TWI)也是从DEM中得出的,它根据坡度和上游贡献面积量化了水分积累的潜力,广泛用于估算土壤湿度分布。最后,平面曲率测量了水平面上的地表曲率,提供了关于水流汇聚和发散的见解,有助于分析排水行为。这些地形变量为建模框架提供了重要的环境背景,捕捉了地形对土壤过程的影响。

2.2.4 气象数据 - 卫星图像
气象数据来自东英吉利大学气候研究单位等机构提供的全球卫星产品(2020年),空间分辨率为1000米。考虑了两个关键气候变量:年平均温度,它代表了区域平均温度,对于评估影响植被和生态系统的热条件至关重要;年平均降水量,它代表了区域平均降雨量,是水可用性、生物生产力和土壤碳动态的关键因素。这两个变量在QGIS中进行了处理,以计算研究区域内进行SOC测量的采样点的年平均值。从CRU网格化气候产品(空间分辨率约为1公里)中得出的年平均温度和年平均降水量被映射到SOC采样位置,通过最近邻提取方法,每个采样点被分配了其所在气候网格单元的值。

2.2.5 地理坐标
对于本研究中使用的非图机器学习模型(即RF、XGBoost和MLP),包括了SOC采样位置的地理坐标(纬度和经度)作为额外的预测变量。这样做是为了向基线模型提供明确的空间信息,使它们能够捕捉到其特征集中未表示的空间关系。仅将地理坐标添加到非图方法中,是为了使其学习条件与基于图的方法更加可比,后者通过其拓扑结构本质上包含了空间结构。机器学习模型的详细信息在2.2.3至2.2.5节中介绍。

2.3 模型
本研究的主要目标是高效估算SOC,旨在开发一种成本效益高的方法来减少土壤退化和经济损失。为此,评估并比较了从经典方法(随机森林、多层感知器、XGBoost)到前沿深度学习技术(图神经网络)的几种机器学习模型,以确定最准确的SOC估算方法。

2.3.1 图神经网络(GNNs)
GNNs旨在建模非欧几里得数据,例如地理位置之间的空间和拓扑关系。在SOC估算中,GNNs通过考虑采样点之间的连接来改进预测。每个位置在图中表示为一个节点,空间或相似性关系通过边来表示(Zhou等人,2020年)。
形式上,GNN在图G(V,E)上操作,其中V是节点集,E是边集。如果存在边(i,j)∈E,则节点i∈V与邻居j∈V相连。边可以是无方向的(双向流动)或有方向的(单向流动)(Goodge等人,2022年)。每个节点i和边(i,j)分别与特征向量Xi∈Rs和eij∈Rm相关联。GNN的目标是将初始节点特征Xi转换为潜在表示hi∈Rs,这些表示既捕捉了节点的内在属性也捕捉了结构背景(Liu & Zhou,2022年)。
这是通过迭代消息传递实现的,其中每一层应用三个函数:(i) 消息函数?,用于确定从邻居传递的信息;(ii) 聚合函数⊕,用于组合消息;(iii) 更新函数γ,用于计算节点状态。在第l层,节点i的隐藏表示更新为(3)hi(l)=γ(l)hi(l?1),hNi(l),其中hNi(l)表示来自邻居j∈Ni的聚合消息。具体来说,hNi(l)通过聚合函数hNi(l)=⊕j∈Nimij(l)获得,mij(l)表示计算得到的单个消息mij(l)=?(l)(hi(l?1),hj(l?1),eij)。
初始状态由(4)hi(0)=Xi给出。
在欧几里得域的卷积神经网络中,卷积充当一个局部过滤器,从相邻像素或时间步骤中聚合信息,从而捕捉局部依赖性并确保平移不变性。将这一原理扩展到图中,图卷积的目标是以尊重图的不规则和非欧几里得结构的方式聚合和转换来自节点邻域的信息。这样的操作使得每个节点表示不仅受到自身特征的影响,还受到相邻节点特征的影响,从而捕捉对预测任务至关重要的局部拓扑模式。
虽然这个框架是通用的,但卷积GNN通过图卷积定义了聚合规则。与欧几里得域不同,图缺乏自然的平移概念,因此卷积必须在谱域中公式化。设A∈Rn×n表示图的邻接矩阵,其中Aij=1如果边(i,j)∈E存在,否则为0,设D是对角度矩阵,其元素Dii=∑jAij。然后定义(5)L=I?D?12AD?12为(标准化的)拉普拉斯矩阵。这个矩阵是实数、对称的、半正定的,因此允许特征分解(6)L=UΛU?,其中U∈Rn×n是特征向量矩阵,Λ=diag(λ1,…,λn)是非负特征值的对角矩阵。特征向量U形成了图信号的正交傅里叶基,而特征值λi代表相应的图频率。因此,图信号x与谱滤波器gθ的卷积可以写为(7)gθ?x=Ugθ(Λ)U?x。
尽管数学上很优雅,但这种公式化需要显式的特征分解,对于大型图来说计算上是禁止性的。为了克服这一限制,Defferrard等人(2016年)提出使用切比雪夫多项式的截断展开来近似滤波器gθ(Λ),从而产生仅依赖于K跳邻域的局部滤波器,避免了特征向量的计算。K阶切比雪夫卷积定义为(8)x(l+1)=∑k=0KθkTk(L?)x(l),其中L?是重新缩放的拉普拉斯矩阵,Tk(L?)是k阶的切比雪夫多项式,θk是可学习的系数。这种公式确保了高效且空间局部化的过滤,同时保持了卷积的谱定义。
通用消息传递框架(方程(3)以抽象形式描述了节点更新。为了具体化这一点,标准化的图拉普拉斯(方程(5)提供了控制图中信息传播的运算符。在谱域中,图卷积可以定义为过滤操作(方程(7)),可以通过切比雪夫多项式展开(方程(8)高效近似。对于K=1,这种近似简化为图卷积网络(GCN)公式Kipf和Welling(2017年),其中每个节点i的表示直接从其邻居更新为(9)hi(l)=γ∑j∈Ni∪{i}1d?id?jhj(l?1)Θ(l)。
这个表达式明确显示了谱公式如何转化为hi(l)从hi(l?1)的实际计算,与消息传递方案相匹配。在方程(9)中,hi(l)∈Rs表示第l层的节点i的隐藏表示,Ni是其邻居集(Ni∪{i}包括自环),d?i和d?j是图中带有自环的节点i和j的度数,Θ(l)是第l层的可训练权重矩阵,1d?id?j是对称归一化因子,γ(?)是非线性激活函数(例如ReLU)。
在这项工作中,我们采用了基于切比雪夫的GNN架构,包括三个连续的卷积层和ReLU激活函数。第一个隐藏层的单元数量是可调的,第二个隐藏层的单元数量是前者的一半,第三个隐藏层输出最终预测结果。超参数搜索探索了在0.001到0.1之间的对数尺度上采样的学习率,以及从16、32和64个单元中选择的第一个隐藏层的大小,以及从8、16和32个单元中选择的第二个隐藏层的大小。GNN模型是使用torch_geometric库中的ChebConv类实现的。

2.3.1.1 基于地理接近性的图构建
为了表示SOC采样位置之间的关系,构建了一个空间图,这些位置是根据它们的地理接近性来确定的。图中的每个节点对应一个土壤采样点,而边则编码了由地理距离得出的空间连接。所有采样点之间的成对地理距离是使用Haversine公式计算的,该公式考虑了地球的曲率,适用于纬度-经度坐标。形式上,地球上两点(φ1,λ1)和(φ2,λ2)之间的Haversine距离由以下公式给出:
d = 2 * r * arcsin((φ2 - φ1) / 2) + cos(φ1) * cos(φ2) * sin(λ2 - λ1)
其中φ和λ分别表示纬度和经度(以弧度表示),r代表地球的平均半径。基于这些成对距离,通过将每个节点与其三个地理上最接近的邻居连接起来,构建了一个k最近邻(k-NN)图,其中k=3。这个过程产生了一个不一定完全连接的稀疏图。由于k最近邻关系不一定是对称的,因此使用基于并集的标准对图进行了对称化。如果节点i和j中的任何一个属于另一个的k个最近邻,则在它们之间添加一条无向边。因此,得到的图不是一个严格的k-NN图。这种构建方式产生了一个既稀疏又具有空间解释性的图,同时确保了网络的全局连通性。边权重被定义为连接节点之间地理距离的倒数,这样空间上更接近的位置在图中具有更大的影响力。数据集中观察到的最小节点间距离确保了所有边权重保持有限且数值稳定。图7展示了最终的图结构。

节点特征包括表1中总结的所有变量。目标变量(SOC值)专门用于指导训练和评估过程。为了定义训练期间使用的节点,我们采用了一种掩码策略。首先通过随机选择一部分节点来初始化一个二进制掩码,以形成标记的训练集。然而,在孤立的节点上训练GNN可能是次优的,因为模型依赖于邻域信息来学习有表达力的节点表示。如果一个训练节点没有标记的邻居,那么信息传递机制在传播信息信号方面的能力就受到了限制。

为了解决这个问题,我们应用了一种掩码扩展技术,即对于每个选为训练的节点,其直接邻居也被包含在训练掩码中。这确保了邻域上下文的保留,并且模型可以从附近的节点接收相关信息,特别是在网络的早期层中。重要的是,预测仅针对最初选定的标记节点进行,而扩展的邻居仅通过信息传递提供上下文信息。形式上,设m∈{0,1}^N表示初始的二进制掩码,其中mi=1表示节点i被选为训练节点。扩展后的掩码m′定义为:mj′=1 如果 mj=1 或 ?(i,j)∈E 使得 mi=1。这种方法在半监督学习环境中特别有益,因为在这些环境中只有有限数量的标记节点可用,但可以利用图的关系结构来传播有用信息并提高学习性能。然而,由于基于邻域的信息传递允许信息在相邻节点之间流动,无论它们的训练/测试状态如何,因此一些测试节点可能会间接地有助于预测附近训练节点的结果。尽管这在归纳学习设置下不会影响结果的有效性,但它引入了训练和测试子集之间的一定程度的重叠。在标记数据充足的情况下,更严格的替代方法是将图划分为不重叠的子图,从而完全隔离训练和测试节点,从而实现归纳评估协议。

尽管数据集有限,但研究仍然采用了严格的归纳视角,在每次实验迭代时独立重建空间图。这一过程强制训练和测试子集之间保持严格分离,确保在模型训练期间无法访问测试节点的任何结构或基于特征的信息。

2.3.2 随机森林(RF)
随机森林是一种监督机器学习算法,它通过构建决策树的集成来提高预测准确性和鲁棒性。它利用两种主要技术来生成基础模型的多样性:自助采样和随机特征选择。在自助采样中,每棵树都是在随机选择的数据子集上训练的。每个节点的随机特征选择确保没有一棵树主导整个过程,从而降低了过拟合的风险(Breiman, 2001; Cutler等人, 2012)。RF模型的最终预测是所有树预测的平均值:
y? = 1/T ∑_{t=1}^T y?_t,
其中T是树的数量,y?_t是第t棵树的预测。通过平均预测值,RF减少了方差并提高了模型的泛化能力。RF具有多个优点,包括由于多棵树的聚合而具有抗过拟合的能力、处理大型数据集的可扩展性以及适合并行处理(Breiman, 2001)。此外,RF通过评估特征在所有树中用于分割数据的频率来评估特征的重要性,使用频率更高的特征被认为对预测更为相关(Liaw & Wiener, 2002)。

在RF模型的情况下,超参数搜索探索了集成中估计器的数量,范围从10到100,以10为增量;以及树的最大深度,测试范围从2到10。每次分割时的特征选择策略考虑了输入特征总数的平方根和对数。该模型是使用scikit-learn库中的RandomForestRegressor类实现的,并配置为使用自助样本,并采用均方误差作为分割标准。节点分割和叶节点所需的最小样本数以及所有其他未指定的超参数都保持库的默认值。

2.3.3 多层感知器(MLP)
多层感知器是一类用于监督学习任务(如分类和回归)的前馈人工神经网络。MLP至少包含三层节点:输入层、一个或多个隐藏层和输出层。一层中的每个节点(或神经元)都与下一层中的所有节点完全连接,每个连接都有一个在训练过程中调整的权重。非线性激活函数(如修正线性单元(ReLU)或Sigmoid)应用于每个隐藏神经元的输出,使模型能够学习输入和输出之间的复杂非线性关系。MLP训练是使用反向传播算法结合基于梯度的优化(例如随机梯度下降或Adam)来执行的,该算法最小化预定义的损失函数。分类任务通常使用交叉熵损失,而回归任务通常使用均方误差(MSE)。

形式上,对于给定的输入向量x∈R^d,具有L层的MLP的预测y?计算如下:
y? = f(L) W(L) f(L-1) W(L-1) ? f(1) W(1) x + ? + b(1) +
其中W(l)和b(l)分别表示第l层的权重和偏置,f(l)是该层中使用的激活函数。MLP受益于通用逼近定理,该定理指出,只要有足够的神经元(模型复杂性)和训练数据(真实世界过程的代理),它们就可以逼近任何连续函数。然而,它们需要仔细调整超参数(例如层数、每层的神经元数量、学习率和激活函数),因为它们容易过拟合,特别是在小数据集上训练时。为了减轻过拟合,通常采用正则化技术,如dropout、L2正则化和提前停止。

在这项工作中,MLP模型的超参数搜索探索了隐藏层的数量(一个或两个)、隐藏单元的大小(从16到128的2的幂次),以及从0.1到0.5的连续范围内采样的dropout率。学习率在对数尺度上从0.001调整到0.1,批量大小从8到32的小值中选择,以确保训练的稳定性。MLP模型是使用PyTorch库中的nn.Module类实现的。

2.3.4 极端梯度提升(XGBoost)
极端梯度提升是一种广泛使用且非常有效的监督机器学习算法,基于梯度提升框架。在梯度提升中,决策树是顺序构建的,每棵新树都旨在纠正序列中前一棵树所犯的错误。这种迭代过程允许XGBoost随着时间的推移改进其预测,每次迭代都提高模型的性能。该算法通过顺序拟合新的树来最小化损失函数,这些新树是针对当前预测的损失的负梯度。XGBoost在几个方面改进了传统的梯度提升,例如正则化(用于控制模型复杂性和防止过拟合)和并行处理(用于更快计算)(Chen & Guestrin, 2016)。XGBoost的优势在于它能够从复杂的高维数据中学习,同时考虑模型的预测误差和模型本身的复杂性。它使用决策树的加性集成,其中每棵新树都训练来纠正前一个集成的残差误差。形式上,XGBoost在迭代t时最小化的目标函数是:
L(t) = ∑_{i=1}^n ly_i, y?_i(t-1) + ft(xi) + Ω(ft),
其中l是可微的损失函数(例如平方误差或逻辑损失),y?_i(t-1)是前一次迭代中第i个实例的预测,ft是在迭代t添加的新决策树,Ω(ft)是控制ft复杂性的正则化项。在学习ft之后,集成预测更新为y?_i(t) = y?_i(t-1) + η ft(xi),其中η∈(0,1]是学习率(收缩参数),用于缩放每棵新树的贡献。这种收缩机制对于避免过拟合和提高模型的泛化性能至关重要。该算法在分类和回归任务中都有效,因为它可以处理不同类型的数据,包括分类变量和连续变量。由于XGBoost的鲁棒性、可扩展性和能够产生高预测准确性,它在机器学习竞赛和实际应用中获得了显著的普及(Bentéjac等人, 2019)。

在这项研究中,通过探索估计器的数量(从10到100,以10为增量)和最大树深度(从2到10)来优化XGBoost模型的超参数。学习率在对数尺度上从0.001调整到0.1。该模型是使用xgboost库中的XGBRegressor类实现的。

2.4 评估指标
为了评估模型在估计SOC方面的预测性能,使用了四个标准指标:平均绝对误差(MAE)、均方根误差(RMSE)、决定系数(R2)和平均绝对百分比误差(MAPE)。这些指标的选择基于它们的互补属性以及它们在实验框架中的不同用途。MAE衡量预测值和观测值之间误差的平均幅度,而不考虑它们的方向。它通过表达平均绝对差异来直观地理解预测准确性。
MAE = 1/n ∑_{i=1}^n |yi - y?_i|。

RMSE量化了预测值和实际值之间平均平方差异的平方根。这个指标对较大的误差惩罚更重,因此对异常值特别敏感。
RMSE = 1/n ∑_{i=1}^n (yi - y?_i)^2。

R2表示模型可以解释的观测值方差的比例。较高的R2值反映了预测值和实际观测值之间更好的拟合。
R2 = 1 - ∑_{i=1}^n (yi - y?_i)^2 / ∑_{i=1}^n (yi - y?)^2。

MAPE将预测误差表示为观测值的百分比,是一种相对误差的度量。与MAE和RMSE不同,MAPE不受尺度影响,因此适合比较具有不同输出幅度或结构的模型。
MAPE = 100/n ∑_{i=1}^n |yi - y?_i| / yi。

在这项研究中,模型优化和选择是使用MSE作为损失函数和Hyperopt库分别进行的。为了更广泛的评估,还计算了其他指标(R2、RMSE、MAE和MAPE),特别强调了MAPE,因为它能够跨模型一致地比较相对性能,无论尺度或学习范式如何。

2.5实验方案
实验依赖于一个多模态数据集,该数据集结合了卫星数据(Sentinel-1、-2和-3)、气候和地形变量以及原位的土壤有机碳(SOC)测量值作为目标变量。在当前的分类设置中(143个样本由47个异构特征描述),我们选择不应用降维技术。尽管样本与特征的比例明显较低,但特征空间的绝对维度仍然适中,远低于通常与维数灾难相关联的范围。保留全部特征的决策基于三个主要考虑因素。首先,这些特征是根据领域专业知识以及现有文献中的基于证据的推荐仔细选择的,每个特征都具有对预测任务可能相关的明确语义解释;因此,激进的转换或消除可能会丢弃有意义的信息,并显著降低可解释性。其次,许多降维方法引入了额外的超参数和参数假设,这些在数据有限且异构的情况下难以可靠估计,可能导致不稳定或数据特定的表示。第三,学习框架包含了正则化和交叉验证策略,这些策略在模型训练期间明确减轻了过拟合的问题,从而减少了单独进行降维步骤的必要性。

实验方案考虑了两种互补的策略来估计预测误差:(i)传递学习,这在标签传播设置中很常见,并且在基于图和基于GNN的方法中被广泛采用,其中训练是在一个固定的图上进行的,该图可能包含标记的训练节点和未标记的测试节点(Wu, Pan, Du, and Zhu, 2021);(ii)归纳学习,这是一种更传统的机器学习范式,在这种范式中,训练和测试阶段是在互斥的子图上进行的,这些子图被划分以防止空间信息泄露。

在传递学习设置中,通过平均图节点的100个独立随机划分到训练和测试子集上的性能指标来估计预测准确性,同时保持全局图结构。这种重复划分的协议在假设测试节点嵌入在训练期间大部分观察到的图中时,提供了平均性能和方差的统计上稳健的估计。使用Moran’s I在模型训练之前评估SOC的空间自相关性(第2.2.2节)表明,在所检查的尺度上SOC没有表现出统计上显著的全局空间自相关性(I=?0.065, p=0.179)。因此,尽管训练和测试子集之间可能存在空间上的接近观测值,但使用随机数据划分预计不会通过响应变量中的空间依赖性来偏置模型评估或排名。

相比之下,归纳评估遵循留一法(LOO)方案,其中目标簇(一个目标节点及其局部邻域)被系统地从训练中排除出来用于测试,从而产生一个单一的聚合误差指标。这种更严格的协议明确探测了模型对部分未见过的局部图结构的泛化能力。总体而言,传递学习的重复和归纳LOO分析提供了互补的视角:前者强调在固定图内的稳定性和平均情况性能,而后者评估了在邻域级别上的分布变化下的鲁棒性。这两种分析都提供了对基于图的学习场景中模型泛化能力的更完整和细致的评估。

最后,作为传递评估的一部分,纳入了对100个独立数据划分中特征相关性和稳定性的分析,利用模型内在的特征重要性指标来评估特征贡献的一致性。这种分析仅限于传递学习设置,在这种设置中,基于80%–20%的数据集分割的多次独立重复使得构建截然不同的学习场景和回归模型成为可能,从而能够有意义地评估特征相关性的稳定性。

在高维设置(d?n)中,特征相关性和模型稳定性至关重要,因为在训练数据中的微小扰动可能会在学习的表示中引起显著的变异性。为了解决这些风险,基于树的集成模型(如RF和XGBoost)利用了内在的正则化——例如特征子采样、深度约束和集成平均——来内在地抑制过拟合。相反,神经架构(MLP和GNN)依赖于显式的策略,包括dropout和批量归一化。这些机制通过贝叶斯超参数优化(第2.5.1节)进行系统调整,确保模型容量适当地校准到数据限制,并且尽管任务的维度很高,仍保持鲁棒性。

接下来的两个小节分别概述了归纳和传递设置的具体配置和程序步骤。

2.5.1. 传递学习方案
每个模型通过100个独立实验进行评估,每个实验都遵循相同的程序(见图8的示意图总结):
- 生成数据集的独立随机划分,分配80%用于训练,20%用于测试。为了确保过程的可重复性和所有模型之间的数据划分相同,使用了基于重复次数(即0, 1, 2..., 99)的种子,以便每次运行都产生唯一但受控的数据分割。
- 仅使用训练数据通过树结构Parzen估计器(TPE)优化超参数。对于每个实验,从预定义的搜索空间中采样100个超参数设置,并通过5折交叉验证评估候选模型。调整的超参数包括特征归一化方法,选项包括最小-最大缩放、标准缩放和鲁棒缩放。目标是识别最小化MSE(通过5折CV)的配置,以确保鲁棒性能并减少过拟合。
- 基于找到的最佳超参数配置选择的模型使用训练数据进行拟合,并在测试数据上进行评估。
- 在训练集和测试集上计算了几个性能指标:RMSE、MAE、MAPE和R2。此外,还存储了每次运行的实际和预测的SOC值。

这种实验方案,每个模型重复100次,确保不会偏向任何特定算法,因为所有模型都在相同的数据划分、优化和评估条件下进行评估。通过测试多个超参数配置,该方法提供了对每个模型一般行为的全面视图。每个指标和模型的100个结果通过它们的中位数进行了总结,以产生最终的性能分数,从而实现了方法之间的客观和统计上稳健的比较。实验设计需要大量的计算工作。对于四个模型中的每一个,训练和评估过程的总数可以计算为:每个模型=100×100×5+100,其中第一项代表100次重复,每次使用5折交叉验证测试100个超参数配置,第二项考虑了使用最佳配置的100个最终训练过程。这导致每个模型有50,100个过程。考虑到本研究中分析的四个模型,总的训练和评估过程数为:Overall=4×50,100=200,400。

完整的实验方案如图8所示。

下载:下载高分辨率图像(431KB)
下载:下载全尺寸图像
图8. 实验方案。

2.5.2. 归纳学习方案
如前所述,归纳评估采用留一法(LOO)方案,其中每个簇(定义为目标节点及其局部邻域)被系统地从训练中排除出来用于测试。
在当前设置中,图由143个节点组成,每个节点连接到三个节点的邻域,从而产生143次独立的训练-测试迭代。超参数优化遵循传递学习设置中采用的相同程序。在每次迭代中,目标簇(目标节点及其三个邻居)从图中移除;然后在剩余的139个节点上训练模型,并在排除的簇上进行评估。每次迭代为目标节点产生一个SOC预测值,该值与相应的观测值进行比较,使用MAE、RMSE、R2和MAPE指标汇总所有迭代的结果。

为了在归纳设置下保持建模方法之间的一致性,对于非基于图的模型(RF、XGBoost和MLP),将纬度和经度作为额外的预测变量包括进来。这确保了所有基线模型都可以访问明确的空间位置信息,而GNN则通过图结构本身利用空间关系。

虽然这种方案提供了对归纳泛化的严格评估,但它也涉及在每次迭代中对原始图的结构修改。具体来说,移除测试簇将图分割成两个不相交的子图,改变了GNN在训练期间可用的邻域结构。除了明确排除四个测试节点之外,这种操作还间接影响了多个训练节点的上下文信息,这些节点的自然邻域被截断或扭曲,从而限制了模型利用关系上下文的能力。此外,重复创建不连接的训练和测试子图会在分割之间引起空间配置、连接模式和局部图统计的变化。这些变化引入了结构分布变化的风险,即在训练期间观察到的关系模式并不完全代表测试时遇到的模式。在数据受限的情况下,这种变化尤其具有后果性,因为它们加剧了从有限样本中学习稳定表示的固有难度,并进一步挑战了基于图的模型的泛化能力。

3. 实验
3.1. 传递案例研究
3.1.1. 性能分析
表2报告了100次运行中模型在训练集和测试集上的评估指标的中位数值。
表2中总结的结果表明,GNN在预测准确性方面始终优于基线模型。在测试集上,GNN取得了最低的误差指标(MAE = 0.137, RMSE = 0.403, MAPE = 2.59%)和最高的R2分数(0.45),表明其具有出色的泛化到未见数据的能力。尽管相对于训练集性能有所下降,但这种下降在预期范围内,并没有削弱模型的泛化能力。

表2. 100次运行中评估指标的中位数值:左侧块显示了训练集上的结果;右侧块显示了测试集上的结果。
模型 训练集 测试集
RF 0.46 0.56 19.58 0.26 0.53 30.65 21.07 ?0.03
MLP 0.54 10.66 23.01 0.01 0.58 30.71 22.24 ?0.17
XGBoost 0.46 10.56 11.94 0.28 0.53 60.65 20.78 ?0.01
GNN 0.10 0.32 81.16 0.59 0.13 0.40 2.59

相比之下,尽管明确包含了地理坐标(纬度和经度)作为输入特征,基准模型的表现却差得多。MLP模型在测试数据上记录了最差的结果,具有最高的MAE(0.583)、RMSE(0.710)和MAPE(22.24%),以及明显负的R2值(?0.17),表明其泛化能力有限。同样,RF和XGBoost模型也表现出负的R2分数(分别为?0.03和?0.01),以及较高的误差值,进一步强调了它们在未见数据上的弱性能。这些接近零的R2分数表明回归模型几乎无法解释因变量的任何方差,其表现并不比简单预测所有观测值的平均SOC值更好。

与训练性能的比较提供了对这些趋势的额外见解。虽然GNN在训练期间取得了最佳结果(MAE = 0.105, RMSE = 0.328, MAPE = 1.16%, R2 = 0.59),但其在测试集上的性能下降仍然适中,突显了其对过拟合的鲁棒性。相比之下,MLP、RF和XGBoost模型的训练误差显著高于GNN,从而证实了它们有限的泛化能力。

总体而言,这些发现证实了GNN在数据有限和高维异质性的苛刻条件下,具有优于传统ML模型的预测准确性、鲁棒性和泛化能力。

3.1.2. 统计显著性分析
鉴于100次独立运行结果的对称性,使用Wilcoxon符号秩检验对模型间的差异进行了成对统计评估。这种非参数检验不假设成对观测值之间的差异是正态的,因此非常适合可能偏斜或包含异常值的分布。仅使用MAPE进行统计分析,因为它具有可解释性、尺度独立性和在预测中的广泛使用。表3报告了Wilcoxon检验的结果。
每个单元格(i,j)表示第i行的模型是否显著优于第j列的模型。低p值(p<0.01)提供了强有力的证据,表明第i行的模型系统地实现了比第j列模型更低的MAPE值。相反,高p值表明观察到的差异在统计上不显著,因此可以从预测准确性方面认为两个模型在统计上是可比的。灰色(空)单元格对应于主对角线上的自我比较,或者第j列模型更优的情况,反映在对称单元格中。

表3. 使用Wilcoxon检验对测试数据中的MAPE值进行模型成对统计比较。每个非空单元格通过p值报告了第i行模型显著优于第j列模型的比较。灰色(空)单元格表示主对角线上的自比较不适用,或者表示列模型更优的情况,这反映在相应的对称单元格中。需要注意的是,Wilcoxon检验仅评估成对结果是否具有显著性差异,并不指出哪个模型表现更好。因此,在本研究中,对于每对比较,我们不仅报告p值,还报告在100次重复实验中哪个模型更频繁地被选中,从而将统计结果与相应的单元格联系起来。测试集上的结果提供了GNN模型具有更优泛化能力的统计证据。特别是,GNN显著优于所有竞争方法,实现了最低的错误指标和最高的R2值。相比之下,MLP模型的表现最差,其错误值显著高于其他所有模型,这证实了其在该任务中的泛化能力有限。同时,随机森林(Random Forest)和XGBoost的预测性能相当,因为它们之间的差异在统计上不显著。总的来说,这些发现增强了GNN架构的稳健性,它始终能够提供更好的预测和泛化能力,使其成为传统机器学习基线的更可靠替代方案。

3.1.3. 补充分析:模型泛化
图9展示了每个预测模型在100次重复实验中MAPE值的分布情况,分别针对训练集和测试集。这种视觉比较有助于了解每个模型在重复随机数据划分下的中心趋势和变异性。MAPE分布的分析还提供了每个模型在训练数据之外泛化能力的理解。在所有模型中,GNN表现出最一致的行为,训练集和测试集的分布有很强的重叠,中位数仅有小幅变化(1.16% vs 2.59%)。这表明该模型在未见数据上保持了相似的错误结构,表明其泛化能力稳健。相比之下,MLP模型显示出明显的欠拟合迹象:尽管其在测试集上的中位数MAPE略低于训练集(22.24% vs 23.01%),但测试集的分布更广且更偏斜,表明其泛化能力较差。

下载:下载高分辨率图像(616KB)
下载:下载全尺寸图像
图9. 每个模型在100次重复实验中训练集和测试集上的MAPE分布。

RF和XGBoost模型在训练集和测试集曲线之间也表现出中等程度的变化,测试集的中位数略高(RF:21.08% vs 19.59%,XGBoost:20.85% vs 19.03%),且密度重叠明显较低。这些差异表明它们的泛化能力不如GNN,尽管不如MLP那么严重。为了更细致地了解这些性能差异并更好地描述它们的泛化误差,图10展示了在100次重复实验中模型对测试数据的预测分析。该图显示了四种模型(RF、XGBoost、MLP和GNN)的观测值与预测值SOC的散点图。红色1:1线代表完美校准;因此,接近这条线表示准确性和无偏差。垂直分散反映了随机误差(方差),而点带在重复实验中的视觉厚度代表了每次运行的稳定性。

RF、MLP和XGBoost模型的散点图显示,点分布倾向于聚集在由因变量观测均值(19.82)定义的水平线周围。这种模式表明模型通常产生的预测值接近总体均值,而不是捕捉数据的变异性,表明其解释能力有限。其中,MLP模型相对于这条均值线的点分散度明显更大,反映了更高的不稳定性和较差的泛化能力。相比之下,RF和XGBoost模型的分布相对更紧密,与更稳定的预测结果一致。

下载:下载高分辨率图像(1MB)
下载:下载全尺寸图像
图10. 基于100次数据划分的测试结果聚合的SOC估计观测值与预测值的散点图。

最后,GNN在整个SOC范围内最紧密地遵循1:1线。其点云形成了一个狭窄的对角带,校准斜率接近于1,截距接近于零,证明了最小的系统偏差和动态范围的准确恢复。这条带在100次重复实验中保持狭窄,显示出强烈的运行间一致性和低方差,巩固了其作为表现最佳模型的地位。

3.1.4. 补充分析:超参数优化
GNN模型在SOC预测方面表现出显著的优势,明显优于RF和XGBoost等稳健且抗方差干扰的基线模型。这种优势突显了GNN建模复杂性的能力,即使是基于树的集成模型,尽管它们在处理非线性交互和噪声方面具有优势,也无法完全捕捉到这些复杂性。相反,MLP的表现显著较差,受到其架构敏感性和缺乏内在特征选择的限制。

为了更清晰地了解这些性能差异并更好地描述它们的泛化误差,图10展示了在100次重复实验中模型对测试数据的预测分析。该图显示了四种模型(RF、XGBoost、MLP和GNN)的观测SOC值与预测SOC值的散点图。红色1:1线代表完美校准;因此,接近这条线表示准确性和无偏差。垂直分散反映了随机误差(方差),而点带在重复实验中的视觉厚度代表了每次运行的稳定性。

RF、MLP和XGBoost模型的散点图显示,点分布倾向于聚集在由因变量观测均值(19.82)定义的水平线周围。这种模式表明模型经常产生接近总体均值的预测值,而不是捕捉数据的变异性,表明其解释能力有限。其中,MLP模型的点分布相对于这条均值线的分散度明显更大,反映了更高的不稳定性和较差的泛化能力。相比之下,RF和XGBoost模型的分布相对更紧密,与更稳定的预测结果一致。

下载:下载高分辨率图像(1MB)
下载:下载全尺寸图像
图10. 基于100次数据划分的测试结果聚合的SOC估计观测值与预测值的散点图。

最后,GNN在整个SOC范围内最紧密地遵循1:1线。其点云形成了一个狭窄的对角带,校准斜率接近于1,截距接近于零,证明了最小的系统偏差和动态范围的准确恢复。这条带在100次重复实验中保持狭窄,显示出强烈的运行间一致性和低方差,进一步巩固了其作为表现最佳模型的地位。

3.1.5. 特征相关性分析
通过利用100个独立数据划分中的模型内在指标,我们评估了RF和XGBoost设置中特征相关性的稳定性。这项分析围绕三个主要研究问题展开:
1. (相关性)每个特征的平均重要性如何?
2. (稳定性)每个特征的重要性在数据划分中的一致性如何?
3. (算法依赖性)RF和XGBoost之间每个特征的重要性是否有差异?

在Pedregosa等人(2011)使用的RF实现中,特征相关性是通过构建树过程中积累的统计量来量化的。每棵决策树通过最大化杂质减少来选择分割变量,特征重要性是计算为所有树中归因于每个特征的杂质减少的标准化总和。同时,特征被选择的频率提供了另一个相关性指标,反映了它在数据划分中的贡献一致性。在XGBoost中,可以通过几个内置标准来衡量特征重要性,包括权重(特征在分割中使用的次数)、增益(使用该特征的分割带来的损失函数平均改进)和覆盖范围(受这些分割影响的样本数量)。在这项工作中,采用了基于增益的规则。

根据100个划分中的频率和重要性分布,得出了几个总结指标:总频率(使用特定特征的模型总数),以及重要性分数的平均值、标准差和最大值。此外,还使用了变异系数(CV)来评估稳定性,CV定义为标准差与平均值的比率。较低的CV表示更高的一致性,便于在不同规模的特征之间进行标准化比较。

图11展示了平均重要性和总频率的热图可视化,特征按照综合相关性从高到低排序,通过平均各个模型获得的分数计算得出。第一行显示了每个模型(RF和XGBoost)的特征重要性(左)和选择频率(右)的分布,而第二行显示了模型间差异图(RF–XGBoost)对于重要性(左)和频率(右)。

热图的阅读引发了对于从当前数据和建模设置中得出稳健且明确的特征选择的可行性的合理怀疑。首先,几乎所有变量在RF和XGBoost中都显示出非零的重要性值。这表明,至少对于某些划分或树,每个特征都对预测过程有所贡献,即使贡献很小。其次,基于频率的分析显示,几乎所有变量在重复划分中至少偶尔被选中,这意味着它们的相关性取决于特定的训练子集或局部数据配置。这种行为表明特征的使用高度依赖于上下文,而不是由稳定的、全局主导的数据结构驱动。第三,模型间差异图(RF–XGBoost)进一步强调了这种缺乏收敛性。相反,RF和XGBoost模型的分布相对更紧密,与更稳定的预测结果一致。

下载:下载高分辨率图像(776KB)
下载:下载全尺寸图像
图11. 算法间的共识热图:特征分析。

图12中的稳定性-可靠性图提供了另一个视角,通过联合分析重复实验中的平均特征重要性和变异系数(CV),从而将RF和XGBoost的相关性与稳定性联系起来。在这两种模型中,特征沿着一个广泛的连续体分布,而不是形成明显“好”(高重要性,低CV)或“坏”(低重要性,高CV)的清晰分离的簇。随着重要性的降低,特征逐渐从稳定过渡到不稳定,这加强了相关性是分散的而不是集中的观点。

下载:下载高分辨率图像(339KB)
下载:下载全尺寸图像
图12. 特征稳定性-可靠性分析。

总的来说,这些图表加强了这样一个结论:稳健的、基于阈值的特征选择并没有得到数据的强烈支持。分析表明,没有一个小的、明确稳定的预测因子核心,而是显示了一系列相关性与稳定性的权衡,许多特征的条件性贡献取决于训练配置。这进一步支持了保留完整特征集的决定,同时以概率和比较的方式解释特征相关性,而不是通过硬性的包含或排除规则。

最后,为了评估模型间在特征相关性方面的共识,我们计算了聚合频率和平均重要性分布之间的皮尔逊(Pearson)和斯皮尔曼(Spearman)相关系数(包括p值)。

如表4所示,对于每个模型,表格报告了从100次实验重复中选定的值分布得出的中心趋势度量对应的超参数值。每次重复涉及在100个候选配置中识别最佳的超参数组合(见第2.5节)。对于具有有限离散元素集的超参数(例如,归一化方法),报告了最常选择的值(众数)。对于在连续数值区间上定义的超参数(例如,学习率),显示了100个选定值的中位数。

可以看出,对于在有序数值域上定义的超参数,中心趋势值通常远低于上限,表明搜索空间对模型优化没有施加显著的限制。相反,对于在无序域上定义的超参数,分布主要是均匀的而不是强烈模态的。这些结果表明,MLP、RF和XGBoost的学习性能观察到的弱点更可能是由于模型和数据的内在限制,而不是由于超参数搜索空间不够灵活造成的。

表4. 超参数搜索空间和中心趋势值
模型 | 超参数 | 超参数搜索空间 | 中心趋势(众数,中位数)
| --- | --- | --- | --- |
| RF | 归一化方法 | 分类:{最小值-最大值缩放器,标准缩放器,稳健缩放器} | 最小值-最大值缩放器 |
| 估计器数量 | 整数范围:10–100(步长=10) | 30 |
| 最大深度 | 整数范围:2–10(步长=2) | 2 |
| 最大特征数 | 分类:{sqrt, log2} | sqrt |
| MLP | 归一化方法 | 分类:{最小值-最大值缩放器,标准缩放器,稳健缩放器} | 最小值-最大值缩放器 |
| 批量大小 | 分类:{8, 16, 24, 32} | 8 |
| 抛弃率 | 均匀分布[0.1, 0.5] | 0.314 |
| 隐藏层数量 | 分类:{1, 2} | 2 |
| 隐藏层大小 | 分类:{16, 32, 64, 128} | 64 |
| 学习率 | 对数均匀分布[0.001, 0.1] | 0.030 |
| XGBoost | 归一化方法 | 分类:{最小值-最大值缩放器,标准缩放器,稳健缩放器} | 标准缩放器 |
| 估计器数量 | 整数范围:10–100(步长=10) | 40 |
| 最大深度 | 整数范围:2–10(步长=2) | 4 |
| 学习率 | 对数均匀分布[0.001, 0.1] | 0.0117 |
| GNN | 归一化方法 | 分类:{最小值-最大值缩放器,标准缩放器,稳健缩放器} | 标准缩放器 |
| 学习率 | 对数均匀分布[0.001, 0.1] | 0.0177 |
| 隐藏层大小1 | 分类:{16, 32, 64} | 64 |
| 隐藏层大小2 | 分类:{8, 16, 32} | 32 |

3.1.5. 特征相关性分析
通过利用100个独立数据划分中的模型内在指标,我们评估了RF和XGBoost设置中特征相关性的稳定性。这项分析围绕三个主要研究问题展开:
1. (相关性)每个特征的平均重要性如何?
2. (稳定性)每个特征的重要性在数据划分中的一致性如何?
3. (算法依赖性)RF和XGBoost之间每个特征的重要性是否有差异?

在Pedregosa等人(2011)使用的RF实现中,特征相关性是通过构建树过程中积累的统计量来量化的。每棵决策树通过最大化杂质减少来选择分割变量,特征重要性是计算为所有树中归因于每个特征的杂质减少的标准化总和。同时,特征被选择的频率提供了另一个相关性指标,反映了它在数据划分中的贡献一致性。在XGBoost中,可以通过几个内置标准来衡量特征重要性,包括权重(特征在分割中使用的次数)、增益(使用该特征的分割带来的损失函数平均改进)和覆盖范围(受这些分割影响的样本数量)。在这项工作中,采用了基于增益的规则。

基于100个划分中的频率和重要性分布,得出了几个总结指标:总频率(使用特定特征的模型总数),以及重要性分数的平均值、标准差和最大值。此外,还使用了变异系数(CV),定义为标准差与平均值的比率,来评估稳定性。较低的CV表示更高的一致性,便于在不同规模的特征之间进行标准化比较。

图11展示了平均重要性和总频率的热图可视化,特征按照综合相关性从高到低排序,通过平均各个模型获得的分数计算得出。第一行显示了每个模型(RF和XGBoost)的特征重要性(左)和选择频率(右)的分布,而第二行显示了模型间差异图(RF–XGBoost)对于重要性(左)和频率(右)。

热图的阅读引发了对于从当前数据和建模设置中得出稳健且明确的特征选择的可行性的合理怀疑。首先,几乎所有变量在RF和XGBoost中都显示出非零的重要性值。这表明,至少对于某些划分或树,每个特征都对预测过程有所贡献,即使贡献很小。其次,基于频率的分析显示,几乎所有变量在重复划分中至少偶尔被选中,这意味着它们的相关性取决于特定的训练子集或局部数据配置。这种行为表明特征的使用高度依赖于上下文,而不是由稳定的、全局主导的数据结构驱动。第三,模型间差异图(RF–XGBoost)进一步强调了这种缺乏收敛性。相反,它们没有显示出大的“空白”区域(即,两个模型赋予几乎相同重要性或频率的特征),差异分布在大多数特征上,包括那些相关性中等的特征。这种分散的模式表明,除了排名最高的特征外,两个模型以系统不同的方式利用特征空间。这种行为反映了它们不同的归纳偏见和优化策略,但也限制了模型不可知特征选择的可解释性。

下载:下载高分辨率图像(776KB)
下载:下载全尺寸图像
图11. 算法间的共识热图:特征分析。

图12中的稳定性-可靠性图提供了另一个视角,通过联合分析重复实验中的平均特征重要性和变异系数(CV),从而将RF和XGBoost的相关性与稳定性联系起来。在这两种模型中,特征沿着一个广泛的连续体分布,而不是形成清晰分离的簇,对应于明显“好”(高重要性,低CV)或“坏”(低重要性,高CV)的预测因子。随着重要性的降低,特征逐渐从稳定过渡到不稳定,这加强了相关性是分散的而不是集中的观点。

下载:下载高分辨率图像(339KB)
下载:下载全尺寸图像
图12. 特征稳定性-可靠性分析。

总的来说,这些图表加强了这样一个结论:稳健的、基于阈值的特征选择并没有得到数据的强烈支持。分析表明,没有一个小的、明确稳定的预测因子核心,而是显示了一系列相关性-稳定性的权衡,许多特征的条件性贡献取决于训练配置。这进一步支持了保留完整特征集的决定,同时以概率和比较的方式解释特征相关性,而不是通过硬性的包含或排除规则。

最后,为了评估模型间在特征相关性方面的共识,我们计算了聚合频率和平均重要性分布之间的皮尔逊(Pearson)和斯皮尔曼(Spearman)相关系数(包括p值)。

如表5所示,两种算法在特征评估指标上显示出低到中等的正相关。频率相关性(Pearson r=0.245,Spearman ρ=0.267)略高于平均重要性相关性(Pearson r=0.112,Spearman ρ=0.272)。然而,这些相关性都没有达到统计显著性(p<0.05),表明RF和XGBoost在不同数据划分中对特征相关性的评估存在显著差异。

尽管在100次重复实验后没有表现出预测收敛性,我们仍然认为特征相关性研究具有诊断价值。这项分析作为基于模型的探索,揭示了学习算法如何在数据限制下尝试利用可用信息,显示出对划分、局部上下文和归纳偏见的敏感性,而不是稳定的全局关系。RF和XGBoost中观察到的一致不稳定性进一步表明,这些限制是由数据特性驱动的,而不是由算法选择造成的。因此,这项分析增强了方法论的透明度,并将解释从预测成功转向理解问题的结构挑战,提供了可以指导未来数据获取、特征设计和建模策略的见解。

表5. 算法间相关系数的比较
方法 | 频率 | 平均重要性 | 空单元格 | 相关系数 | p值 |
| --- | --- | --- | --- | --- |
| Pearson | 0.245 | 0.090 | 0.112 | 0.445 |
| Spearman | 0.267 | 0.064 | 0.272 | 0.059 |

我们避免了显式的降维(例如,PCA),以保持我们多源数据集的结构完整性和可解释性。鉴于预测因子的高维性和异质性,通过PCA得到的成分会掩盖各个变量的直接物理意义。此外,初步测试表明没有显著的冗余或稳定的低维结构,这表明需要完整的特征集来捕捉所研究的复杂环境关系。3.1.6. 剩差分析:GNN残差的空间自相关性为了评估预测误差中是否仍然存在空间依赖性,使用Moran’s I统计量对100个独立的训练-测试分割进行了全局空间自相关性分析。对于每个分割,残差被计算为观测值和预测值之间的差异,并使用与响应变量分析中相同的空间权重矩阵来计算Moran’s I。图13显示了所有分割中获得的Moran’s I值的分布。该分布以接近零为中心,平均Moran’s I为-0.053,中位数为-0.040,表明残差中的空间依赖性较弱。大多数值落在接近零的相对狭窄范围内,且正负值都有出现,但没有一致的方向模式。在100个分割中,只有有限的比例显示出统计上显著的残差空间自相关性。具体来说,11%的分割的Moran’s I值的基于排列的p值低于α=0.05(表6)。这些情况没有表现出一致的Moran’s I符号或幅度,也没有系统地对应于更高的或更低的预测准确性。下载:下载高分辨率图像(117KB)下载:下载全尺寸图像图13. 对100个随机训练-测试分割中的GNN残差计算的Moran’s I值分布。虚线垂直线表示零空间自相关性。总体而言,接近零的Moran’s I值占主导地位,表明在采用的邻域定义下,GNN残差的空间依赖性不是系统性的特征。结合对SOC的探索性空间分析,这一结果与之前观察到的响应变量的弱全局空间结构一致。在所考察的尺度上,剩余的预测误差没有显示出连贯的空间组织,且在很大程度上是空间不相关的,表明如果存在空间效应,它们是通过局部和条件关系表达的,而不是通过平滑或全局空间结构表达的。表6. 100个训练-测试分割中GNN残差的Moran’s I值的汇总统计。统计量值平均Moran’s I -0.053中位数Moran’s I -0.040最小Moran’s I -0.386最大Moran’s I 0.260标准差0.111显著Moran’s I的百分比(p<0.05)11%3.2. 归纳案例研究3.2.1. 性能分析表7报告了在归纳式留一簇外验证方案下获得的评估指标。在这种设置中,每个观测值都被单独评估为空间隔离的目标节点,从而产生了143个确定性的训练-测试划分。报告的指标总结了所有LOO迭代中的预测性能。在归纳验证方案下,所有模型的预测性能相对于传递式设置都有所下降,反映了在空间隔离结构上预测SOC的难度增加。在测试数据上,所有模型的误差幅度相似,MAPE值约为22%,R2分数接近零或负数,表明在严格的离位评估下只能解释SOC的一小部分方差。表7. 归纳式留一簇外验证方案下的评估指标。训练结果基于相应的LOO训练集计算,而测试结果汇总了每个空间隔离目标节点的预测。模型训练测试空单元MAERMSEMAPE (%)R2MAERMSEMAPE (%)R2RF0.4500.56019.500.220.5200.64121.910.07XGBoost0.4400.55019.200.240.5320.65422.290.03MLP0.5000.62021.000.050.5510.68722.85?0.07GNN0.3600.48014.000.300.5450.68422.36?0.06在归纳协议下观察到的收敛不良主要归因于从每个训练子图中排除目标节点及其相邻节点的直接结构后果。这一操作不仅移除了测试簇本身,还扰乱了几个剩余训练节点的自然邻域,有效地创建了不反映原始图结构的截断或人为的连接模式。因此,GNN中的信息传递基于不完整或扭曲的关系上下文,这可能会阻碍稳定节点表示的学习,并导致训练过程中的优化行为不稳定。此外,在数据受限的情况下,系统地移除局部邻域显著减少了模型可用的连接模式的多样性和重复性,阻止了模型学习进行可靠推理所需的关系结构。“观测值与预测值”散点图未在测试节点处报告,因为在所有情况下,模型都表现出强烈的趋势,预测值接近平均SOC。这种行为与在传递式设置中观察到的传统机器学习模型的行为相似(见图10),并没有提供额外的模型性能洞察。总体而言,归纳结果表明,在采用的邻域定义下,GNN残差的空间依赖性不是一个系统特征。结合对SOC的探索性空间分析,这一结果与之前观察到的响应变量的弱全局空间结构一致。在所考察的尺度上,剩余的预测误差没有显示出连贯的空间组织,且在很大程度上是空间不相关的,表明如果存在空间效应,它们是通过局部和条件关系表达的,而不是通过平滑或全局空间结构表达的。表6. 100个训练-测试分割中GNN残差的Moran’s I值的汇总统计。统计量值平均Moran’s I -0.053中位数Moran’s I -0.040最小Moran’s I -0.386最大Moran’s I 0.260标准差0.111显著Moran’s I的百分比(p<0.05)11%3.2. 归纳案例研究3.2.1. 性能分析表7报告了在归纳式留一簇外验证方案下获得的评估指标。在这种设置中,每个观测值都被单独评估为空间隔离的目标节点,从而产生了143个确定性的训练-测试划分。在归纳验证方案下,所有模型的预测性能相对于传递式设置都有所下降,反映了在空间隔离结构上预测SOC的难度增加。在测试数据上,所有模型的误差幅度相似,MAPE值约为22%,R2分数接近零或负数,表明在严格的离位评估下只能解释SOC的一小部分方差。表7. 归纳式留一簇外验证方案下的评估指标。训练结果基于相应的LOO训练集计算,而测试结果汇总了每个空间隔离目标节点的预测。模型训练测试空单元MAERMSEMAPE (%)R2MAERMSEMAPE (%)R2RF0.4500.56019.500.220.5200.64121.910.07XGBoost0.4400.55019.200.240.5320.65422.290.03MLP0.5000.62021.000.050.5510.68722.85?0.07在归纳协议下观察到的收敛不良主要归因于从每个训练子图中排除目标节点及其相邻节点的直接结构后果。这一操作不仅移除了测试簇本身,还扰乱了几个剩余训练节点的自然邻域,有效地创建了不反映原始图结构的截断或人为的连接模式。因此,GNN中的信息传递基于不完整或扭曲的关系上下文,这可能会阻碍稳定节点表示的学习,并导致训练过程中的优化行为不稳定。此外,在数据受限的情况下,系统地移除局部邻域显著减少了模型可用的连接模式的多样性和重复性,阻止了模型学习进行可靠推理所需的关系结构。“观测值与预测值”散点图未在测试节点处报告,因为在所有情况下,模型都表现出强烈的趋势,预测值接近平均SOC。这种行为与在传递式设置中观察到的传统机器学习模型的行为相似(见图10),并没有提供额外的模型性能洞察。总体而言,归纳结果表明,在空间隔离位置进行SOC预测对所有评估模型来说仍然是一项具有挑战性的任务。虽然基于图的学习在关系上下文可用时提供了明显的好处,但严格的归纳评估揭示了从碎片化和部分观察到的图配置中泛化SOC预测的固有难度。4. 讨论本研究的结果突出了GNN在数据受限条件下进行SOC估计的潜力和局限性。分析揭示了传递式和归纳式学习范式之间的明显对比,强调了图结构保持和上下文信息在实现有效表示学习中的关键作用。在传递式设置下,当训练节点和测试节点存在于共享图结构中时,GNN展示了收敛和泛化的能力。在这种情况下,尽管测试节点的标签被隐藏,但在训练期间仍可以访问完整的关系上下文(包括空间邻域和连接模式)。这使得模型能够利用标记节点和未标记节点之间的信息传递,从而利用全局一致性和共享的上下文信息。因此,学习到的表示受益于对类似局部图配置的稳定和重复暴露,这与GNN在半监督和传递式任务中的理论优势一致(Kipf和Welling,2017;Wu、Pan、Du和Zhu,2021)。相比之下,基于留一簇外(LOO)协议的归纳评估提出了一个更具挑战性的泛化问题。通过系统地排除目标节点及其局部邻域,每次迭代实际上将原始图分割成两个不相连的子图。除了明确移除测试簇之外,这一操作还改变了多个训练节点的邻域结构,截断了它们的关系上下文,限制了信息传递的有效性。因此,GNN需要推断测试簇的表示,而这些簇的联合结构和特征配置在训练期间并未共同观察到。这种图结构的重复分割引入了可以描述为结构分布变化的现象:训练期间可用的关系模式与测试时遇到的模式不同,不仅在节点属性方面,主要在它们的拓扑组织方面也是如此。在小型图中,如本研究中考虑的图(143个节点),即使移除少量节点也会放大影响,显著扰乱局部和全局连接性。因此,归纳任务实际上从共享关系空间内的插值转变为跨部分未见图结构的外推,在数据受限的情况下,GNN在这种情况下表现不佳(Hamilton等人,2017)。尽管在两种设置中传统机器学习模型都未能收敛,但包含特征相关性分析在方法论上仍然具有信息价值。在数据受限的情况下,检查模型内在的特征使用和重要性度量可以洞察学习算法如何在不同的训练配置下尝试利用可用信息。这种分析不是作为确定性的特征选择机制,而是一种诊断工具,有助于区分性能限制主要是由数据特征、图结构破坏还是模型归纳偏差引起的。观察到的特征相关性分布,其特征是变量之间的非零重要性和频率普遍存在,表明预测信息是分布式的且高度依赖于上下文。这一发现与缺乏稳定的归纳泛化一致,并支持这样的解释:在这种设置中,SOC估计是由多个弱条件和条件信号驱动的,而不是由少数主导的预测因子驱动的。本质上,这种行为在不同学习算法中的一致性表明观察到的不稳定性主要是由数据驱动的,而不是模型特定的。总体而言,这些发现强调了将评估协议与图学习固有的结构假设对齐的重要性。虽然GNN在传递式设置中可以有效地利用共享上下文和全局结构,但当关系信息碎片化且数据可用性受限时,它们的归纳泛化能力受到严重限制。这些发现强调了将评估协议与图学习固有的结构假设对齐的重要性。虽然GNN在传递式设置中可以有效地利用共享上下文和全局结构,但当关系信息碎片化且数据可用性受限时,它们的归纳泛化能力受到强烈限制。这些发现突出了在小型、空间结构化图中学习稳定表示的基本挑战。这些见解为解释实验结果提供了原则性基础,并为未来的工作提供了指导,包括更丰富的图构建、改进的数据覆盖范围或替代的归纳策略。5. 结论本研究调查了在数据受限条件下使用图神经网络(GNN)进行土壤有机碳(SOC)估计的应用。通过明确地通过图结构建模空间关系,该工作考察了图学习在现实环境设置中的潜力和局限性,这些环境的特点是样本量有限、协变量异质性和空间依赖性。研究的一个核心结果是清晰地区分了传递式和归纳式学习范式。当训练节点和测试节点存在于共享图结构中时,GNN能够收敛和泛化,受益于保留的关系上下文和稳定的信息传递路径。相比之下,基于留一簇外协议的归纳评估提出了更大的挑战:图的重复分割扰乱了邻域结构,引起了结构分布变化,最终阻止了可靠的收敛和泛化。这些发现表明,在小型空间图中,归纳泛化不仅仅是一个更难的传递式任务版本,而是一个根本不同的问题,可能会超出GNN的表示能力。除了预测性能之外,该研究还引入了基于模型内在机制的特征相关性和稳定性分析。这种分析是由方法论考虑而非特征选择本身激发的,并提供了不同学习算法如何在不同的数据划分下利用异构输入的诊断性洞察。结果表明,特征相关性广泛分布、依赖于上下文,并且对训练配置敏感,这在这种设置下不支持激进的降维或硬特征选择。值得注意的是,这些模式在模型间的一致性表明观察到的不稳定性主要是由数据驱动的,而不是模型特定的。总体而言,这些发现强调了将评估协议与图学习固有的结构假设对齐的重要性。虽然GNN在传递式设置中可以有效地利用共享上下文和全局结构,但当关系信息碎片化且数据可用性受限时,它们的归纳泛化能力受到严重限制。这些发现突出了在小型、空间结构化图中学习稳定表示的基本挑战。这些见解为解释实验结果提供了原则性基础,并为未来的工作提供了指导,包括更丰富的图构建、改进的数据覆盖范围或替代的归纳策略。5. 结论本研究调查了在数据受限条件下使用图神经网络(GNN)进行土壤有机碳(SOC)估计的应用,这些数据受限条件包括多模态和地理参考数据。通过明确地通过图结构建模空间关系,该工作考察了图学习在现实环境设置中的潜力和局限性,这些环境的特点是样本量有限、协变量异质性和空间依赖性。研究的一个核心结果是清晰地区分了传递式和归纳式学习范式。当训练节点和测试节点存在于共享图结构中时,GNN能够收敛和泛化,受益于保留的关系上下文和稳定的信息传递路径。相比之下,基于留一簇外协议的归纳评估揭示了重大挑战:图的重复分割扰乱了邻域结构,引起了结构分布变化,最终阻止了可靠的收敛和泛化。这些发现表明,在小型空间图中,归纳泛化不仅仅是一个更难的传递式任务版本,而是一个根本不同的问题,可能会超出GNN的表示能力。除了预测性能之外,该研究还引入了基于模型内在机制的特征相关性和稳定性分析。这种分析是由方法论考虑而非特征选择本身激发的,并提供了不同学习算法如何在不同的数据划分下利用异构输入的诊断性洞察。结果表明,特征相关性广泛分布、依赖于上下文,并且对训练配置敏感,这在这种设置下不支持激进的降维或硬特征选择。值得注意的是,这些模式在模型间的一致性表明观察到的不稳定性主要是由数据驱动的,而不是算法特定的。总体而言,这些发现强调了将评估协议与图学习固有的结构假设对齐的重要性。虽然GNN在传递式设置中可以有效地利用共享上下文和全局结构,但当关系信息碎片化且数据可用性受限时,它们的归纳泛化能力受到严重限制。这些发现突出了在小型、空间结构化图中学习稳定表示的基本挑战。这些见解为解释实验结果提供了原则性基础,并为未来的工作提供了指导,包括更丰富的图构建、改进的数据覆盖范围或替代的归纳策略。莫利内达(Mollineda):共同参与了研究的概念构思、设计、方法论的制定、软件实现、结果验证、正式分析、资源调查与数据管理,协助准备了初稿,审阅并编辑了手稿,参与了数据可视化工作,监督了整个研究过程,并协调了项目管理工作。

关于手稿准备过程中生成式人工智能(Generative AI)和人工智能辅助技术(AI-assisted technologies)的使用声明:
在撰写本论文的过程中,作者们使用了由OpenAI开发的生成式人工智能工具ChatGPT(GPT-5),以提高手稿某些部分的可读性和清晰度。作者声明所有观点、分析和解释均为独立完成。使用该工具后,作者对内容进行了必要的审阅和修改,并对发表文章的内容和结论承担全部责任。

资金支持:
本研究得到了厄瓜多尔国立理工学院(Escuela Politécnica Nacional)的PIS-24-09研究项目的资助。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号