《European Journal of Soil Science》:Transfer and Uncertainty for Soil Spectroscopy: A Parsimonious Approach Using Bayesian Mixed Models and Soil Surveys
编辑推荐:
限制土壤光谱学应用的两个挑战是:(1)在数据有限的环境下的模型迁移;(2)不确定性量化,尤其是在误差相关的情况下。线性混合模型(LMM)已在其他领域成功应对这些挑战,但在土壤光谱学中尚未应用。与机器学习迁移算法相比,LMM更为直接且可解释性更强。LMM还可以利
限制土壤光谱学应用的两个挑战是:(1)在数据有限的环境下的模型迁移;(2)不确定性量化,尤其是在误差相关的情况下。线性混合模型(LMM)已在其他领域成功应对这些挑战,但在土壤光谱学中尚未应用。与机器学习迁移算法相比,LMM更为直接且可解释性更强。LMM还可以利用辅助变量,在本研究中包括农场、田块和土壤深度变量,以及外部土壤调查(SSURGO)对pH和质地的估计。LMM并非利用辅助变量将数据集严格分层为若干组并分别拟合模型,而是对整个数据集进行部分合并(partial pooling),以平衡局部建模与全局建模。在本研究中,研究人员利用美国东北部8个农场18个农业田块中155个土芯的3个土层(0–15、15–30、30–60 cm)共459个样品的田间湿润近红外(NIR)光谱预测土壤碳(数据和代码已提供)。通过交叉验证,研究人员发现LMM成功实现了农场间的模型迁移,优于记忆学习(MBL)和Cubist等现有方法。此外,作为一种概率模型,LMM自动提供了良好的不确定性量化,包括在现有方法因相关误差而失效的聚合预测中。研究人员得出结论,LMM作为一种简约方法,在土壤光谱学的模型迁移和不确定性量化方面展现出良好前景。
研究背景:土壤红外光谱可快速预测多种土壤属性,尤其是碳浓度,有望降低土壤碳监测成本。然而,光谱模型的广泛应用受两大挑战制约:一是模型迁移,即目标区域仅有少量训练数据时模型性能下降;二是不确定性量化,尤其在误差相关时预测不确定性常被低估。现有方法如偏最小二乘回归(PLSR)在迁移时受制于训练数据与目标土壤的差异;记忆学习(memory-based learning, MBL)和树模型(Cubist、分位数回归森林QRF)虽有所改进,但不确定性量化仍不完善。为此,研究人员提出将线性混合模型(LMM)用于土壤光谱,以同时解决迁移与不确定性问题。
本研究的目标是评估LMM在模型迁移和不确定性量化方面是否优于现有方法,并结合可获得的土壤调查数据,预测美国东北部农场土壤碳浓度。
研究数据与方法:研究人员在纽约州哈德逊河谷地区(42°N,73°W)选取8个农场、18个田块,共155个土芯,按0–15、15–30、30–60 cm分3个土层,获得459个田间湿润样品。使用手持式近红外(NIR)光谱仪(Neospectra)扫描,覆盖257个波长(1350–2550 nm),6次扫描取平均;光谱经标准正态变量(SNV)变换并下采样至64个波长。碳浓度采用干燃烧法测定,以log1p尺度建模。辅助数据来自美国农业部NRCS的土壤调查地理数据库(SSURGO),提供田块尺度pH和质地(砂粒、粉粒、黏粒)。LMM将回归系数建模为农场、田块、土层及交互效应的函数,并利用田块级土壤调查变量作为第二层预测变量;采用贝叶斯马尔可夫链蒙特卡洛(MCMC)推断(brms/Stan)。通过两种交叉验证场景评估:无局部观测(目标农场无训练样本)和有局部观测(每个田块3个随机土芯共9个样本加入训练)。比较模型包括PLSR、分层PLSR、MBL、Cubist、QRF和LMM。
研究结果:
3.1 土壤碳分布:对459个样品碳浓度统计,平均值为1.2%,标准差为0.8%。采用随机效应模型分解方差,发现土层是最大的变异来源,其次为田块、农场等。该分解表明数据具有多层次结构,适合LMM。
3.2 模型迁移:在两种交叉验证场景下,通过均方根误差(RMSE)、性能偏差比(RPD)、绝对偏倚和决定系数(R
2)比较模型。无局部观测时,PLSR平均RMSE为0.49%,RPD为1.7,绝对偏倚0.19%,R
2为0.69;有局部观测时改善为0.40%、2.0、0.11%、0.74。结果显示,分层PLSR和QRF未优于PLSR基线;MBL和Cubist有改善;而LMM在所有指标上均最优。相比PLSR,LMM在无局部观测时RMSE平均降低27%,有局部观测时降低10%。
3.3 不确定性量化:各模型生成95%预测区间。在单个样本水平,多数模型覆盖率接近名义95%;但在田块-土层聚合预测水平,其他模型由于未考虑相关误差,覆盖率仅60%–80%,严重低估不确定性;LMM因联合建模样本间误差,覆盖率约为95%。Winkler评分同样显示LMM最优。
3.4 LMM解释:LMM的NIR光谱系数显示2000–2500 nm波段贡献显著,与已有土壤碳光谱研究一致。田块级土壤调查变量中,pH系数为负且估计精确,质地系数不确定性较大。土层截距显示深层土壤碳较低,与原始分布相符。变系数分析表明,虽然斜率随组变化较小,但对预测性能有实际贡献。
讨论与结论:
研究人员讨论了LMM表现优异的背景:本研究地理范围小、土壤相对均质,有利于全局PLSR,但LMM仍大幅改进,提示在土壤异质性更高的区域(如更大地理尺度)LMM的迁移收益可能更大。LMM性能依赖训练数据中的组数和每组样本量;在组数极少时仍可退化为全局模型。无局部观测时,组级预测变量对LMM至关重要;有局部观测时其作用降低。LMM可通过多输出模型、高斯过程扩展,并可纳入土芯位置、更精细地理单元等随机效应。虽然LMM计算量较大(约15分钟),随机截距简化版可在数秒内完成且性能接近。与机器学习相比,贝叶斯概率模型在不确定性量化和数据效率方面有优势,且可解释性更强。
结论:限制土壤光谱应用的两个挑战是模型迁移和不确定性量化。本研究在美国东北部18个农业田块收集了新的土壤碳实测数据和NIR光谱,评估了多种现有方法和所提出的LMM。研究发现,LMM在模型迁移和聚合预测的不确定性量化方面均优于现有方法。结合其在众多领域的成功应用,LMM是土壤光谱学中一种有前景的简约方法。