KDAQnet:一种基于知识蒸馏的轻量级且精准的深度学习框架,用于卫星监测的多污染物空气质量预报

《Remote Sensing Applications: Society and Environment》:KDAQnet: A lightweight and accurate deep learning framework for satellite-based multi-pollutant air quality forecasting with knowledge distillation

【字体: 大 中 小 】 时间:2026年08月13日 来源:Remote Sensing Applications: Society and Environment 3.8

编辑推荐:

  摘要 随着基于卫星的数据集日益丰富,空气污染预报对公共卫生和环境管理的重要性愈发凸显。多项研究提出利用这类数据集通过深度学习模型来预测空气质量,但由于模型参数庞大,这些方法往往存在较高的计算成本。为解决这一问题,我们提出了KDAQnet——一种轻量高效、基于知识蒸馏的深度学习

  摘要
随着基于卫星的数据集日益丰富,空气污染预报对公共卫生和环境管理的重要性愈发凸显。多项研究提出利用这类数据集通过深度学习模型来预测空气质量,但由于模型参数庞大,这些方法往往存在较高的计算成本。为解决这一问题,我们提出了KDAQnet——一种轻量高效、基于知识蒸馏的深度学习框架,用于多污染物空气质量预测。该框架基于ResNet+FCN架构,能够有效提取空间和时间特征,在CH4、CO、NO2、O3和SO2五种主要污染物预测中表现出优异性能,平均R2值为0.8710,同时将MSE和MAE分别降至544.66和13.20。其训练时间和模型复杂度也分别降低至20,033.92秒和84%,充分体现了该模型的高效性。与ResNet+Transformer、CNN+FCN、AlexNet+Transformer及SQUnet+Transformer等基准架构相比,KDAQnet同样具有显著优势。此外,通过不同α值的知识蒸馏消融实验表明,采用该方法的模型R2值可提升最多9.38%,收敛速度则快约50%。这些结果证明,KDAQnet是运用卫星数据和真实观测值进行实时多污染物空气质量预测的一种高效且可扩展的解决方案。

引言
近年来,由于空气污染对人类健康(Brunekreef和Holgate,2002;Alvarez-Mendoza等人,2020;Sannasi等人,2025a)、环境保护(Gurjar等人,2010;Manisalidis等人,2020)以及气候变化缓解策略(Ramanathan和Feng,2009)的影响,准确估算空气污染水平变得极为重要。化石燃料燃烧及其他人类活动产生的空气污染物带来了诸多危害,包括数百万人过早死亡(Landrigan,2017)以及全球变暖加剧(Jacobson,2012)。人类活动产生的大气污染物对环境和健康构成严重威胁。氮氧化物(NO、NO2、NOx)主要来自煤炭和汽油燃烧,会引发光化学烟雾和酸雨(以HNO3形式存在)。碳氧化物(CO和CO2)由化石燃料不完全燃烧产生,具有呼吸毒性并影响气候。氯氟烃(CFCs)来自气溶胶、制冷剂及工业过程,会破坏臭氧层,削弱地球对太阳辐射的防护能力。二氧化硫(SO2)是化石燃料燃烧的副产品,会损害呼吸系统健康、形成酸雨并降低大气能见度。地面臭氧(O3)由NO2与挥发性有机化合物(VOCs)反应生成,会对健康和生态系统造成危害。颗粒物(PM2.5和PM10)来自工业过程、燃料燃烧及车辆排放,会导致呼吸系统疾病、形成雾霾,并加速其他污染物的形成。铅颗粒则来自汽油燃烧和工业活动,具有高度毒性,可能与脑损伤有关(Spellman,2017)。因此,全面了解空气污染的扩散与分布情况,对于有效控制污染物排放以及深入理解其对人类健康和环境的影响至关重要。

地面空气质量监测站是获取污染物浓度连续数据的主要手段,但其缺点在于监测覆盖范围和站点数量有限(Kumar等人,2015)。为弥补地面监测的空间局限性,人们开始运用卫星遥感技术对大气污染物进行全球范围观测。然而,这类卫星数据集的空间分辨率通常较低,多为几公里级别,难以用于精细化的空气质量评估。为解决这一问题,人们开始采用机器学习和深度学习方法,来预测未观测地点和时间的污染物浓度,从而实现高分辨率的时空建模。尽管深度学习模型能显著提升预测精度,但它们往往需要大量的神经元和层次结构,从而导致更高的计算成本和资源消耗(Justus等人,2018;Kumar等人,2025a)。为应对这一挑战,我们提出了一种结合知识蒸馏的新型多模型深度学习框架KDAQnet,用于预测五种主要空气污染物:二氧化氮(NO2)、甲烷(CH4)、臭氧(O3)、一氧化碳(CO)和二氧化硫(SO2)。这些污染物与PM2.5之间存在较强相关性(Beckerman等人,2008)。我们采用了知识蒸馏技术,这是一种模型压缩方法,可将高容量“教师”模型的知识传递给体积更小、效率更高的“学生”模型。通过将知识蒸馏应用于我们的框架,我们能够在保持较高预测精度的同时,大幅缩短计算时间,且该框架既可使用卫星数据集,也可结合真实观测值。

以往的研究主要集中在提升单一空气污染物的预测精度上。在某些研究中(Rowley和Karaku?,2023;Scheibenreif等人,2022),研究者们使用了基于卫星的数据构建了多模型框架,但这种方法不仅计算成本高昂、训练时间较长,而且预测精度仅为中等水平。为克服这些局限,我们提出了KDAQnet——一种基于知识蒸馏的架构,旨在在显著减少训练时间和计算复杂度的同时,提升预测精度。

在本研究中,我们在空气污染预报领域做出了以下几项重要贡献:
• 提出了一种新型深度学习框架KDAQnet,该框架借助知识蒸馏技术,能够高效准确地预测多种空气污染物。
• 该模型可同时预测五种主要污染物NO2、CH4、O3、CO和SO2,在不同大气条件下均展现出优异的性能。
• 通过引入知识蒸馏技术,大幅降低了训练时间和计算复杂度,同时仍保持了较高的预测精度。
• 该框架将卫星遥感数据与地面空气质量观测值相结合,实现了精细化的全时空预测。
• 我们使用多种性能指标对所提框架进行了严格评估,包括均方根误差(RMSE)、平均绝对误差(MAE)、归一化均方根误差(NRMSE)、归一化平均绝对误差(NMAE)、决定系数(R2)以及均方误差(MSE)。本文中使用的符号和标记详见表1。此外,本文结构如下:第2节对相关研究进行了全面综述,重点探讨了深度学习技术在环境数据建模中的应用;第3节介绍了本研究使用的数据集,包括卫星获取的大气观测数据及地面真实的空气质量测量数据;第4节详细说明了用于评估模型预测能力的性能指标;第5节展示了实验结果,并分析了基于知识蒸馏的模型与多种基准方法的性能对比;最后,第6节总结了研究要点,并提出了未来研究的方向。

相关研究
在土地利用回归和土地利用/土地覆盖分类等遥感应用中,统计分析一直起着核心作用。在2010年代初机器学习技术尚未广泛普及之前,研究人员主要采用传统的统计方法,其中线性回归和逻辑回归是最常用的工具(Hoek等人,2008)。在机器学习的早期阶段,支持向量机(SVM)被广泛用于模式识别。

数据集1
本节分为两部分。第一部分详细描述了数据集的来源、结构及关键特征;第二部分则介绍了为提升数据质量并优化模型性能而进行的预处理步骤。

方法论
方法论部分分为三部分。第一部分讨论了问题的建模方式;第二部分给出了知识蒸馏框架中教师模型的数学表达式;第三部分则详细阐述了轻量级学生模型的数学表达式以及用于高效预测污染物的优化策略,如图1所示。

性能指标
我们采用以下指标来评估所提模型的性能:
• MSE:MSE=1/n∑i=1^n(yi?y?i)2
• RMSE:RMSE=√[1/n∑i=1^n(yi?y?i)2]
• MAE:MAE=1/n∑i=1^n|yi?y?i|
• R2:R2=1?∑i=1^n(yi?y?i)2/∑i=1^n(yi?y?)2
• NRMSE:NRMSE=RMSE/(ymax?ymin)
• NMAE:NMAE=MAE/(ymax?ymin)
• 训练时间:训练时间=结束时间?开始时间

结果
结果部分分为三个主要部分。第一部分介绍了超参数配置及系统运行要求;第二部分对比了基准模型与所提方法的表现,突出了性能提升之处;第三部分通过消融实验分析了不同参数对模型性能的影响,各部分的详细内容如下:

结论与未来工作
本研究提出了一种基于知识蒸馏的深度学习框架,该框架结合了ResNet+FCN结构,用于多污染物空气质量预测,其在多项基准模型及最先进架构中均展现出显著优势。在CH4、CO、NO2、O3和SO2等多种污染物上的实验结果表明,该模型具有更高的R2值,同时MSE、MAE和RMSE等误差指标也显著更低。该框架的平均R2值为0.8710。

CRediT作者贡献说明
Sudhir Kumar:撰写——审阅与编辑、撰写——初稿、可视化、验证、方法论、研究设计、概念构思。
Vaneet Kour:撰写——审阅与编辑、可视化、方法论、研究设计、数据整理、概念构思。
Nimisha Jain:可视化、研究设计、数据整理。
Shivendu Mishra:撰写——审阅与编辑、可视化、验证、方法论、研究设计、概念构思。
Rajiv Misra:撰写——审阅与编辑、可视化。

参与同意声明
所有作者均声明同意参与此项研究。

发表同意声明
所有作者均同意在文章被接受后将其发表。

伦理声明
本研究未涉及人类受试者或动物实验。所有使用的数据集(基于卫星的空气质量及污染物监测数据)均来自公开渠道,且仅用于学术研究目的。作者声明不存在任何利益冲突。

代码获取地址
https://github.com/sudhir7562yadav-creator/KDAQnet

资金支持情况
本研究未获得任何财政资助。

利益冲突声明
作者声明不存在任何可能影响本研究结果的已知财务利益或个人关系。

Sudhir Kumar | Vaneet Kour | Nimisha Jain | Shivendu Mishra | Rajiv Misra | T.N. Singh
印度比哈尔邦巴特那市,印度理工学院巴特那计算机科学与工程系,邮编801106
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号