用于筛选适用于机器学习的卫星数据集的双重验证框架：一种可扩展的流程与分层分析方法

《IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing》：A Dual Validation Framework for Curating Machine Learning-Ready Satellite Datasets: A Scalable Pipeline and Stratified Analysis

　　

摘要：

地球观测基础模型需要大量高质量训练数据，遥感领域为此开发了众多基准数据集。然而，这些基准数据集大多为静态数据，且往往缺乏严格的质量评估和难度衡量标准。随着PB级卫星数据量以及大型基础模型的出现，有必要建立完善的框架来评估数据集的质量与复杂度。为解决这些问题，我们提出了一个双重验证框架，并配套可扩展的按需数据集整理流程。该框架包含两个互补的部分：首先，通过辐射度精确度检测以及综合数据集难度指数来评估数据集质量，该指数将空间异质性、物候变化特征以及数据稀缺程度整合为一个标准化指标；其次，利用难度指数对不同难度级别的数据集进行分层模型性能分析，从而比传统整体评估提供更深入的洞察。为落实这一框架，该流程采用了基于云的Zarr架构并结合分布式计算技术，以实现高效并行数据访问和自动质量监控。我们在云间隙插补任务上对该框架进行了验证，结果表明分层分析能够揭示出被整体指标完全掩盖的严重性能下降现象。具体而言，在高难度场景下测试的模型，其误差（均方根误差）增加了50%以上，结构相似度也显著下降，SSIM值从0.83降至0.77。本研究为将常规的卫星数据转化为经过严格验证、适合机器学习的基准数据提供了坚实基础，通过量化评估数据集特性，推动了遥感领域以数据为中心的人工智能发展……

查看更多