克里金先验回归：结合TabPFN与空间特征工程的精准农业土壤制图新框架

《Computers and Electronics in Agriculture》：Kriging prior regression: A case for kriging-based spatial features with TabPFN in soil mapping

本研究针对精准农业中土壤属性空间预测的挑战，提出了一种名为“克里金先验回归”（KpR）的混合建模框架。该研究将普通克里金（OK）插值得到的预测值及方差作为空间特征，与机器学习算法TabPFN结合，在六个田间尺度数据集上对土壤有机碳（SOC）、粘土含量和pH值进行了预测。结果表明，TabPFN-KpR框架显著提升了预测精度（平均R2提升约30%），并提供了可靠的不确定性估计，其性能优于回归克里金（RK）及多种非空间机器学习算法。该研究为小样本情境下的数字土壤制图（DSM）提供了一种强大且通用的解决方案，对精准农业中的变量施肥决策具有重要意义。

　　

在精准农业（Precision Agriculture, PA）领域，实现作物的变量施肥管理依赖于对田间土壤属性的高精度空间预测。传统的预测方法主要分为两大流派：以地统计学为基础的克里金插值法和以机器学习为核心的回归模型。克里金法（如普通克里金，Ordinary Kriging, OK）能够有效利用土壤属性的空间自相关性进行插值预测，但其性能高度依赖于采样点的空间结构和数量，且难以融合多源传感器提供的环境特征。另一方面，机器学习模型（如随机森林、CatBoost）能够挖掘土壤属性与传感器特征之间的复杂非线性关系，然而，当传感器特征与目标土壤属性之间的相关性较弱时（这在田间尺度应用中十分常见），纯机器学习模型的预测能力会大打折扣。近年来，一种结合了回归模型和残差克里金的混合方法——回归克里金（Regression Kriging, RK）变得流行，但其不确定性估计存在系统性过于乐观的缺陷，可能给农业决策带来风险。

随着机器学习技术的飞速发展，特别是像TabPFN这样的专为小样本表格数据设计的Transformer基础模型的出现，为土壤预测带来了新的机遇。TabPFN通过在海量合成数据上进行预训练，能够进行上下文学习，在小数据集上表现出色，并能直接提供贝叶斯风格的不确定性估计。然而，即使是最先进的机器学习模型，也无法从缺乏解释力的特征中学习到有意义的模式。因此，如何将地统计学的空间信息优势与机器学习的强大拟合能力有机结合，构建一个在精准农业常见的小样本、弱特征关系场景下依然稳健的预测框架，成为了一个亟待解决的关键科学问题。

在此背景下，由Jonas Schmidinger等人组成的研究团队在《Computers and Electronics in Agriculture》上发表了他们的研究成果。他们提出了一种名为“克里金先验回归”（Kriging prior regression, KpR）的创新框架。该框架的核心思想是“反转”回归克里金的逻辑：不是先进行回归再对残差进行克里金插值，而是在回归步骤之前和之中就引入克里金的结果。具体而言，研究人员利用普通克里金对训练数据（采用留一法交叉验证以避免数据泄露）进行插值，得到每个位置的预测值（?_OK）和预测方差（σ²_OK），然后将这两个“空间滞后”特征作为额外的输入变量，与原始的传感器特征一同输入到TabPFN模型中进行训练和预测。这种方法被称为“先验”回归，因为它将空间自相关的信息直接作为机器学习的特征组成部分。

为验证KpR框架的有效性，研究人员从LimeSoDa基准数据集中精选了六个包含实地近端土壤传感数据的田间尺度数据集，涵盖了土壤有机碳、粘土含量和pH值三种目标属性，共构成18个预测任务。研究的主要分析比较了四种预测框架：普通克里金、仅使用传感器特征的TabPFN基线模型、TabPFN结合KpR特征以及TabPFN结合回归克里金。评估指标包括决定系数（R²）和分位数覆盖概率等。此外，研究还将TabPFN-KpR与多种其他空间技术以及常见的非空间机器学习算法进行了广泛的基准测试，并深入分析了在何种数据集和模型特性下，KpR能带来最大的性能提升。

本研究采用的关键技术方法主要包括：1）基于普通克里金的空间插值技术，用于生成KpR特征；2）TabPFN模型，用于处理小样本表格数据的回归预测和不确定性估计；3）留一法交叉验证，用于在生成KpR特征时避免数据泄露；4）10折交叉验证，用于模型性能评估；5）空间自相关分析（如莫兰指数），用于评估数据集的空间结构和模型残差的空间依赖性。

3.1. 一般性比较

3.1.1. 点预测

研究结果显示，TabPFN基线模型（平均R²= 0.56）的平均预测精度优于普通克里金（平均R²= 0.50），这支持了机器学习通常优于克里金的普遍观点。然而，在四个预测任务中，普通克里金的表现更好，表明其仍有价值。TabPFN与回归克里金结合（TabPFN-RK）和与KpR结合（TabPFN-KpR）都将平均R²分别提升至0.58和0.60。这表明将机器学习与地统计学方法结合能够获得比单一方法更高的预测精度。其中，TabPFN-KpR是主分析中表现最好的框架。与随机森林、CatBoost等四种常见的非空间机器学习算法相比，TabPFN-KpR将平均R²提升了约30%，证明了其显著优势。相关性分析表明，TabPFN-KpR的预测结果与普通克里金的预测结果相关性更高，说明其有效地融合了空间信息。

3.1.2. 不确定性估计

在不确定性估计方面，TabPFN及其KpR变体能够直接提供可靠的概率预测，其分位数覆盖概率非常接近理想情况。而基于地统计学的普通克里金和回归克里金的不确定性估计则可靠性较差，特别是回归克里金，其预测区间过于狭窄，表现出系统性的过度乐观。研究人员将此归因于回归克里金在计算残差时存在的数据泄露问题（使用训练观测值来拟合用于计算残差的模型）。这种不可靠的不确定性估计若用于农业决策（如变量施肥），可能导致严重后果。

3.2. 上下文性能分析

尽管TabPFN-KpR在平均意义上提升了预测精度，但它并非在所有预测任务中都有效。研究表明，KpR特征的益处与数据集和模型特性密切相关。当数据集仅包含单一近端土壤传感器的特征时，KpR带来的提升最为显著，因为它提供了传感器所缺乏的空间上下文信息。当目标土壤属性的空间自相关性在空间上平稳（即符合普通克里金的假设）时，KpR也更有效。此外，当基线TabPFN模型的测试误差存在明显的空间自相关性，或者普通克里金的预测性能已经接近甚至优于TabPFN时，引入KpR特征最有可能带来性能增益。反之，如果传感器特征已经能够很好地解释目标变量，或者空间结构非常不平稳，KpR特征可能带来过拟合风险。

研究结论与意义

本研究系统地评估了将克里金先验回归与TabPFN模型相结合在精准农业土壤制图中的应用。主要结论包括：首先，TabPFN-KpR框架提供了最准确的点预测，这得益于TabPFN在小数据集上的强大性能以及KpR特征提供的互补性空间信息。其次，TabPFN-KpR能够提供可靠的不确定性估计，而传统的回归克里金方法在这方面存在严重缺陷。第三，KpR在传感器数据有限或空间结构平稳的场景下优势最为明显。最后，当机器学习模型的残差存在空间自相关性时，KpR是提升模型鲁棒性的有效手段。

该研究的重要意义在于：1）提出并验证了一种新颖且强大的空间机器学习框架（KpR），为数字土壤制图提供了新的技术路径；2）明确了TabPFN这一前沿机器学习模型在精准农业小样本问题中的实用价值；3）通过详尽的基准测试揭示了不同空间方法的优缺点，为实践者提供了模型选择的依据；4）强调了可靠性不确定性估计在农业决策中的重要性；5）为在成本受限（如仅使用单一传感器）的情况下实现稳健的土壤预测提供了可行方案，有助于推动精准农业技术的更广泛应用。总之，这项研究成功地架起了地统计学与现代机器学习之间的桥梁，为应对精准农业中的现实挑战提供了有力工具。