基于Matérn分布的潜在随机正则化方法用于校准地球观测基础模型的空间不确定性
《Remote Sensing of Environment》:Calibrated spatial uncertainty for Earth observation foundation models via Matérn-motivated latent stochastic regularization
【字体:
大
中
小
】
时间:2026年08月16日
来源:Remote Sensing of Environment 12.3
编辑推荐:
•潜在随机微分方程层为基础模型嵌入添加了受马特恩分布启发的结构。•该后处理模块在冻结的嵌入上训练;参数量小于800K,无需重新训练。•在空间块保留测试下,SDE方法的90%概率积分覆盖范围分别下降4个百分点的NDVI值和8个百分点的LST值。•在县级尺度应用时,基准方法的LST值
•潜在随机微分方程层为基础模型嵌入添加了受马特恩分布启发的结构。•该后处理模块在冻结的嵌入上训练;参数量小于800K,无需重新训练。•在空间块保留测试下,SDE方法的90%概率积分覆盖范围分别下降4个百分点的NDVI值和8个百分点的LST值。•在县级尺度应用时,基准方法的LST值下降16–17个百分点,而SDE方法仍保持83%的覆盖率。•校准一致性检验显示,与基准方法相比,该模型能覆盖多出33,000名居民。
引言
用于地球观测的基础模型拓展了地理空间分析的可用工具箱。这些模型基于大陆尺度的卫星图像进行训练,如OlmoEarth(Herzog等人,2025年)、PrithviEO(Jakubik等人,2023年)以及SatMAE(Cong等人,2022年),它们生成的密集嵌入向量能够捕捉光谱-空间模式,从而支持跨传感器、区域和任务的迁移学习。这些嵌入向量越来越多地被用作土地覆盖分类、变化检测、作物产量估算以及环境监测的特征提取工具。然而,从空间统计的角度来看,这些模型生成的嵌入空间是无结构的。每个嵌入向量都是独立计算的,或最多在局部区域内计算,缺乏任何机制来规定相邻嵌入向量在空间上的协变方式。即便存在空间一致性,那也是训练数据的衍生结果,而非模型强制实现的属性。因此,基础模型嵌入缺乏空间推理所必需的三种能力:能够描述空间依赖性规模与平滑度的可解释协方差函数、能够在不同位置之间连贯传递不确定性的原则性不确定性量化方法,以及与空间随机过程理论相衔接、从而实现精确插值和风险评估的理论基础。
在遥感领域,不确定性量化有着悠久的方法论传统,其历史可追溯到深度学习模型兴起之前。Foody在2002年对土地覆盖分类中单一数值精度报告方式的批判指出,遥感产品需要比混淆矩阵总结更丰富的逐像素不确定性描述。Atkinson和Tate(2000年)明确了变异图分析、地质统计不确定性传播与遥感之间的联系;Atkinson(2013年)进一步扩展了这一框架,明确要求在任何合理的降尺度操作中都必须包含不确定性估计。此后,高斯过程回归成为生成地球观测产品逐像素预测分布的主流贝叶斯方法,Verrelst等人(2013年)展示了基于高斯过程的叶面积指数和叶绿素反演方法,并附有明确的不确定性地图,Camps-Valls等人(2016年)则对高斯过程在地球观测中的应用进行了全面综述。近期的研究还将这些理念延伸到了深度学习领域:Ma等人(2021年)将贝叶斯神经网络应用于玉米产量估算,并给出了明确的预测区间评估;Lang等人(2023年)构建了全球10米分辨率的冠层高度模型,该模型具有基于集成方法的不确定性和明确的可靠性图表;Martínez-Ferrer等人(2022年)则对高分辨率生物物理反演中的随机不确定性和认知不确定性进行了分解。不过,将这些方法应用于基础模型嵌入时都存在一个共同局限:要么需要端到端重新训练整个流程,要么在不确定性量化时将不同空间位置视为独立个体。
这种独立性假设非常重要,因为空间预测中的不确定性从来都不是真正局部的。Meyer和Pebesma(2022年)证明,随机交叉验证会系统性地低估具有空间结构数据的预测误差,他们还提出了“适用区域”概念,用以描述机器学习模型的预测结果在多大程度上得到了训练数据的支持。Kuronen等人(2025年)应用符合预测方法,为Sentinel-2卫星图像中的森林属性生成了经过校准的90%置信区间,并明确评估了在空间块保留测试下的覆盖情况。在领域适配研究领域(Tuia等人,2016年),人们早就认识到,在某一采集模式下训练的遥感模型在应用于其他场景时,其性能会以特定方式下降。综合来看,现有研究揭示了一个明确的需求:需要一种方法,能够在不进行端到端重新训练的情况下,为基础模型输出生成空间上连贯且经过校准的预测区间,同时还能在这些输出被用于与训练数据不同的地理区域时依然保持校准性。
经典空间统计学恰好提供了所需的理论工具。具有马特恩协方差的高斯随机场(Matérn,1960年;Stein,1999年)为空间范围和平滑度提供了可解释的参数化描述,而Lindgren等人(2011年)提出的随机偏微分方程形式则能够生成适用于大尺度空间域的稀疏精度算子。不过,这些工具作用于观测到的空间场,而非学习得到的表示形式:直接将SPDE-高斯马尔可夫随机场方法(Rue和Held,2005年)应用于视觉变换器生成的768维嵌入向量并非易事。
本研究的核心动机在于,这种不兼容性属于架构层面的问题,而非根本性问题。基础模型嵌入在基于空间自相关图像进行训练的过程中,会自然产生大量的空间结构:由于底层图像具有自相关性,相近的像素会生成相似的嵌入向量。这些嵌入所缺乏的并非空间信息,而是空间统计机制——即参数化的协方差、经过校准的不确定性,以及在不同尺度间合理传播误差的方法。经典SPDE-GMRF框架正好提供了这样的机制,它经过数十年的理论发展(Whittle,1954年;Lindgren等人,2011年;Rue等人,2009年)以及在地质统计学、环境科学和疾病分布研究中的实际应用不断得到完善。因此,将两者结合并非是要混合不相容的范式,而是将成熟的空间统计机制引入到一个本身已具有空间结构但缺乏有效利用手段的领域中。SPDE与马特恩场之间的福克-普朗克关系为这种整合指明了一条具体路径:无需直接在嵌入向量上强制施加协方差结构,而是可以通过一个随机动力系统让它们演化,该系统的稳态分布即可呈现出所需的马特恩精度。
本文开发的潜在随机微分方程层是一种轻量级的随机模块,可在冻结的基础模型嵌入之后进行后处理应用。它的设计灵感来源于经典空间SPDE的马特恩稳态结构,但实际上是以嵌入空间中的逐点随机变换形式实现,而非显式的空间微分算子。该层通过一个学习得到的伊藤随机微分方程来演化嵌入向量,该方程包含耦合的漂移项和扩散项(? ksendal,2003年);其与经典马特恩理论的关联则通过福克-普朗克方程建立,对于具有恒定扩散系数的线性动力学系统,该方程的稳态解恰好对应Whittle SPDE(Whittle,1954年)的精度算子。在本文采用的非线性参数化形式中,这种对应关系起到了指导架构设计的原理性作用,而非真正将马特恩空间场强加于嵌入向量之上。本文重点研究了这一方法在真实卫星图像上的实证效果,尤其关注了在训练范围之外的空间泛化情况下的校准表现;在漂移项和扩散项满足标准的利普希茨条件和增长条件时,该潜在随机微分方程层是良好定义的(Da Prato和Zabczyk,1992年;? ksendal,2003年)。
该层在印度尼西亚印第安纳州马里恩县的10公里×10公里城市训练区域内的OlmoEarth嵌入向量上进行了测试,该区域用于训练10米分辨率的归一化差异植被指数和地表温度预测模型。在训练区域内采用四折空间块保留测试,评估了在区域内空间结构变化时的校准稳定性,而在整个马里恩县研究区域上的推理测试则评估了在更大尺度应用时的校准性能。核心研究发现,该随机微分方程层所实现的预测性能可与匹配的多层感知器和卷积神经网络基准模型(以及一个可学习的高斯平滑器)相媲美,同时在空间保留测试下,其预测区间覆盖范围的下降幅度要小得多:NDVI的下降幅度为名义值的3.9个百分点(而基准模型为6.1–7.1个百分点),LST的下降幅度为7.7个百分点(而基准模型为11.0–12.8个百分点)。
研究区域
研究区域为美国印第安纳州的马里恩县(面积约为1043平方公里,以印第安纳波利斯市为中心),该区域包括城市核心区、工业走廊、混合住宅区、郊区单户住宅区,以及典型的美国中西部大都市区的农业边缘地带。在该研究区域内,选取了一个10.24公里×10.24公里的训练区域(近似中心坐标为北纬39.77度,西经86.13度,分辨率为10米,坐标系为EPSG:32616,UTM第16N区),共包含1024×1024个像素。
方法
潜在随机微分方程层是一种后处理模块,可直接应用于OlmoEarth嵌入向量,无需对基础模型进行重新训练。
域内预测与校准
首次评估旨在检验当在完整的1024×1024网格上训练时,该随机微分方程层是否能够在训练区域内产生准确的预测结果和经过校准的不确定性估计。为此,分别使用第3.3节描述的训练流程,训练了多个模型,用以根据OlmoEarth嵌入向量预测NDVI和LST值。对于NDVI而言,该随机微分方程层将使用原始嵌入向量时的预测性能从R2=0.909(均方根误差为0.069)提升到了R2=0.944(均方根误差为0.054),均方根误差降低了22%(见表1)。误差降低最显著的情况出现在……
在遥感不确定性研究领域的定位
潜在随机微分方程层为在基础模型表示中引入受马特恩分布启发的空间正则化机制提供了一种方法。该层应用于参数量少于800,000的OlmoEarth嵌入向量上,其预测性能可与匹配的多层感知器和卷积神经网络基准模型相媲美(后两者的域内R2值更高),同时它所提供的不确定性估计在面对空间结构变化时的稳健性也远远优于传统方法。
结论
本文提出了一种基于马特恩分布的潜在随机正则化层,用于对基础模型表示进行优化。该层应用于印第安纳州印第安纳波利斯市马里恩县内的10公里×10公里城市训练区域上的OlmoEarth嵌入向量上,其额外参数量少于800,000,所实现的预测性能可与匹配的多层感知器和卷积神经网络基准模型相媲美,同时在空间结构变化时,其预测区间覆盖范围的下降幅度也要小得多。在相同研究区域内……
代码与数据获取
本文中潜在随机微分方程层、训练与评估流程、基准模型架构以及所有图表和表格的源代码均发布在https://github.com/dpjohnsoIU/calibrated-spatial-uq网站,采用MIT许可证授权。该版本的永久Zenodo存档地址为https://doi.org/10.5281/zenodo.21854892。该发布版本还包括数据采集脚本(包括使用earthengine-api客户端的Google Earth Engine JavaScript和Python版本),可用于复现本文中关于生成式人工智能及人工智能辅助写作技术的讨论内容。在撰写过程中,生成式人工智能被用于语法修正和一些编码辅助工作,所有使用情况均已经过准确性及一致性核查。
利益冲突声明
作者声明自己不存在任何可能影响本文研究结果的已知财务利益或个人关系。
致谢
印第安纳大学的研究技术部门通过Big Red 200超级计算机及相关Slate存储系统提供了计算资源。本研究还得到了印第安纳大学研究事务副校长的内部资金支持;本文内容完全由作者负责,不一定代表资助机构的官方观点。
Daniel P. Johnson
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号