《Frontiers in Marine Science》:An open-source quality control pipeline for SeaExplorer glider data: a case study in La Palma, Canary Islands
编辑推荐:
自主水下滑翔机(glider)是持续海洋观测的重要平台;然而,最大化有效数据利用需要高度标准化、端到端的数据处理工作流。尽管已有通用滑翔机工具箱,但据研究人员所知,目前尚无已发表的开源工作流能够提供从厂商原始文件到CF兼容、质量控制(Quality Contr
自主水下滑翔机(glider)是持续海洋观测的重要平台;然而,最大化有效数据利用需要高度标准化、端到端的数据处理工作流。尽管已有通用滑翔机工具箱,但据研究人员所知,目前尚无已发表的开源工作流能够提供从厂商原始文件到CF兼容、质量控制(Quality Control, QC)产品的SeaExplorer专用处理链。研究人员提出一种基于Python的流程,用于标准化任务后原始SeaExplorer数据、应用自动化QC测试,并生成面向诊断和技术用户的产品,以支持可重复科学研究。该框架在专家监督下自动化从原始数据接入到生成CF兼容NetCDF文件的完整处理链,遵循“保留数据而非删除数据”的原则,保留原始数据以供未来科学再评估。框架实施14项QC测试,产生两类输出:保留逐测试标志用于技术验证的细粒度诊断文件,以及为每个变量提供单一质量指标的聚合文件。流程使用拉帕尔马(La Palma, Canary Islands)两次SeaExplorer任务数据进行了演示。该工具按FAIR(Findable, Accessible, Interoperable, Reusable)原则设计,支持可重复数据管理,并促进业务工程数据融入科学工作流。
研究背景方面,近二十年来自主水下滑翔机(autonomous underwater glider)已成为现代海洋观测支柱,可长时序、大尺度、全水柱采样,弥补卫星仅测表面、科考船成本高覆盖低的不足。随着SeaExplorer滑翔机(ALSEAMAR研制,作业深度超1000 m)在沿海和深海任务中应用增加,平台特有导航行为、工程通道、生物光学传感器特征使数据管理复杂化。国际社区已有SOCIB、GliderTools、CoTeDe、PyGlider等开源工具,但多数面向Slocum和Seaglider;已有研究指出,针对SeaExplorer从厂商原始文件到CF兼容、多层级QC产品的端到端开源方案仍缺位,且沿海任务中生物污染、上升/下降廓线不对称、专有文件格式、非标准命名和单位、尖峰与漂移等问题突出,限制了数据互用与FAIR化。
研究人员开展的研究是:构建并演示一个Python语言实现的SeaExplorer专用、端到端QC框架,由PyGlider解码原始数据,xarray/pandas/polars做表格与多维数据管理,GSW(Gibbs SeaWater)工具箱按TEOS-10推导绝对盐度与保守温度,Shapely做地理空间点面判断,PyYAML解耦平台元数据与核心逻辑;流程分三步:原始数据接入与标准化并输出NetCDF与CSV,细粒度诊断文件记录14项测试逐点标志并做潜次分段,聚合文件按“任一测试失败即Flag 4”的优先规则生成单变量质量指示。研究人员用拉帕尔马两次任务验证:M1为2025年2月12日至3月5日,M2为2025年8月28日至9月19日,传感器为RBRlegato3 CTD、RBRCoda3氧传感器、WETlabs FLNTU生物光学包;结论是该框架在物理参数上高质量比例超99%,生物光学变量可区分仪器伪信号与真实信号,两任务标志分布差异常低于0.1%,证明流程可预测、可复用,意义在于填补SeaExplorer端到端开源QC空白,使工程原始数据转为CF兼容、Argo兼容标志体系的科学可用产品,支撑Copernicus Marine Service与GODAE类仓库。
关键技术方法上,研究人员以拉帕尔马两次SeaExplorer任务为样本队列,传感器含CTD、溶解氧与FLNTU;软件栈用PyGlider接入.gz原始导航与载荷日志,中间用Parquet提速,TEOS-10做盐温压派生,YAML配置车辆与传感器映射,脚本内嵌La Palma岸线多边形做LAND_QC,区域阈值按Canary waters校准;QC含时间、位置、缺失、陆地位、区域范围、卡住、尖峰、表面污染、氧梯度、压力单调、飞行速度、传感器极限、最大压力、密度稳定共14项,并按下潜/上升段分段处理。
研究结果如下。
1 Introduction:研究人员指出滑翔机科学价值依赖标准化分析就绪产品,现有工具未充分覆盖SeaExplorer厂商原始格式与沿海生物光学特征,故需专用端到端流程。
1.1 Challenges in the glider data life cycle:研究人员总结物理层有生物污染与传感器漂移,飞行动力学层有锯齿剖面升/降不对称与无泵CTD响应滞后,原始数据结构层有专有分隔文件、非标准单位、尖峰气泡伪影、机构间处理异质,因此框架须做标准化与可重复QC。
2 Methods: design and implementation of the processing framework:研究人员用Python生态实现模块化三阶段架构,YAML管元数据,NetCDF+CSV双格式存档与人工核查,细粒度文件留痕、聚合文件服务终端科学家。
3 Study area and mission deployment:研究人员在2021年Tajogaite火山与熔岩三角洲影响区布放,M1约91个剖面、182万观测,M2超128个剖面、141万观测;区域陡地形与强梯度构成方法学压力测试场。
4 Quality control test specifications:研究人员采用Argo兼容标志,保留1 GOOD、3 BAD DATA POTENTIALLY CORRECTABLE、4 BAD、9 MISSING、0 NOT EVALUATED,省略2/5/8以维持自动客观与不改原始值;14项测试里,Range_QC用La Palma区域界,Spike_QC对温度/盐度/氧用三点残差且浅层(P<500 dbar)阈值宽、深层严,对CHLA/TURB用5点中位数与10th百分位自适应,LAND_QC用SITCAN/GRAFCAN岸线多边形做WGS84点面判定,DENSITY_QC判ρ(i+1)-ρ(i)<-0.03 kg/m3。
5 Results:研究人员发现DATE_QC、LOCATION_QC、LAND_QC均100% Flag 1;TEMP/CNDC/PSAL/DOXY各测试Flag 1占约99.9%;CHLA与TURB有固定11.01%/11.03% Flag 9,对应荧光计每9秒停1秒的占空比遥测空隙;CHLA的Range_QC与Sensor_QC约58.6%为Flag 3,源于厂设暗计数未本地调零导致清水负值和可校正偏移;Spike测试Flag 0集中在剖面转折处邻点不足;聚合后CHLA好数据约68.2%–68.7%、Flag 4低于1.2%,TURB Flag 4低于1.4%,证明物理变量极稳、生物光学变量可被合理分层。
讨论与结论部分,研究人员强调该框架价值不在季节海洋学新发现,而在方法可复现与处理透明:相同传感器、区域与阈值下两任务标志分布几乎一致,说明流程对操作情景不敏感;细粒度与聚合双输出让数据管理员分离“海洋学异常”和“仪器伪影”,保留原始值而不插值不改值,符合OceanGliders与BGC-Argo的data preservation原则;CHLA负读数被标Flag 3而非删去,留给延迟模式(delayed-mode)专家再校准。研究人员结论可译为:该SeaExplorer开源QC流程实现了从厂商原始文件到CF兼容、TEOS-10一致、Argo兼容标志产品的端到端转化;14项测试与双级输出在拉帕尔马任务中稳定区分仪器噪声与生物地球化学信号;框架按FAIR原则发布于GitHub,可降低沿海滑翔机数据管理门槛,促进业务工程数据进入Copernicus Marine Service、GODAE与国际海洋观测体系。论文发表于《Frontiers in Marine Science》。