《Atmospheric Environment》:Diagnosing explainability of machine learning: An example of transformer-based PM
2.5 estimation in Seoul, Korea
编辑推荐:
本研究通过应用可解释人工智能(XAI)对韩国首尔冬季直径≤2.5 μm的颗粒物(PM2.5)浓度进行分析,检验机器学习模型(时空Transformer,TimeSformer)结果中气象和空气质量变量的物理一致性。该模型基于再分析数据训练
本研究通过应用可解释人工智能(XAI)对韩国首尔冬季直径≤2.5 μm的颗粒物(PM2.5)浓度进行分析,检验机器学习模型(时空Transformer,TimeSformer)结果中气象和空气质量变量的物理一致性。该模型基于再分析数据训练,在测试期间对高PM2.5事件(≥36 μg m?3)的分类准确率达到76.1%,命中率为75.0%,建立了基于XAI模型解释的可靠性。对XAI方法在忠实性、随机化和复杂性方面的定量评估表明,积分梯度(Integrated Gradients)和Shapley加法解释(Shapley Additive Explanations)最为稳健。XAI结果正确地将正归因分配给大多数通常与高PM2.5事件相关的气象变量;然而,对位势高度和温度分配了负归因,这与已知的环境约束(高压系统和较暖温度有利于高PM2.5浓度发生)相矛盾。XAI分析还表明,模型优先考虑首尔周围的局部特征(这些特征与观测到的PM2.5具有高统计相关性),而非再分析中的天气尺度天气模式。这些结果表明,数据驱动模型在决策过程中表示正确物理过程的能力有限,将相关物理约束纳入人工智能架构对于获得物理一致且稳健的人工智能模型结果至关重要。
论文解读文章
研究背景:PM
2.5(直径≤2.5 μm的颗粒物)是主要空气污染物,对人体健康构成严重风险,导致呼吸和心血管疾病,引发全球数百万过早死亡,并造成社会经济损失。韩国冬季PM
2.5浓度显著升高,政府基于监测和预报系统实施严格监管措施。人工智能(AI)模型通过学习多变量间的复杂非线性关系,被用于提升空气质量预报精度,并在韩国与化学传输模型(CTM)结合,使预报误差降低近50%。然而,AI模型本质上是黑箱,难以解释其决策过程的物理一致性,导致操作预报员对其结果缺乏信任。为此,可解释人工智能(XAI)被引入以增强模型的可解释性。现有XAI研究多基于站点时间序列或空间网络,局限于局部视角,忽略了强烈控制局部PM
2.5浓度的天气尺度气象学。例如,西伯利亚高压减弱转变为移动性反气旋时,西风跨界输送促进污染物增加,而伴随强风和降水的移动性气旋则降低PM
2.5。尽管少数研究将天气尺度模式纳入AI模型,但系统性和视觉化的解释尚未开展。因此,有必要将XAI分析从局部扩展到天气尺度视角。
研究人员开展了什么研究:研究人员利用时空Transformer(TimeSformer)模型,基于ERA5和MERRA-2再分析数据,估算首尔冬季PM
2.5浓度,并应用多种XAI方法(包括内在方法注意滚出和事后方法置换特征重要性、遮挡敏感图、SHAP、LIME、积分梯度)进行解释。通过定量评估XAI方法的忠实性、模型依赖性和复杂性,确定最稳健的方法,并分析空间归因图与再分析合成场的差异。结果表明,模型性能良好,但XAI揭示其决策主要依赖局部特征,忽视天气尺度模式,且对位势高度和温度的归因与物理知识矛盾。这一发现强调数据驱动模型缺乏物理一致性,需将物理约束纳入AI架构。论文发表在《Atmospheric Environment》。
主要技术方法:研究人员采用TimeSformer模型,该模型通过分块嵌入、时空多头注意力机制(分别沿时间和空间维度计算注意力)和回归令牌实现PM
2.5估算。输入数据包括MERRA-2再分析PM
2.5(M-PM
2.5)和ERA5再分析气象变量(850 hPa位势高度Z850、850 hPa风速WS850、2米气温T2m、2米相对湿度RH2m、总降水PRCP、边界层高度BLH及地表位势Zsfc),覆盖8个连续6小时时间步。模型基于2008-2022年冬季训练,2022-2025年冬季测试。XAI方法包括注意滚出(内在)、置换特征重要性(PFI)、遮挡敏感图、SHAP、LIME和积分梯度(IG)。定量评估指标包括忠实性(删除和插入测试)、模型参数随机化测试(Spearman秩相关)和复杂性(基尼指数和香农熵)。样本队列来源为首尔25个行政区的空气质量监测站每日PM
2.5浓度数据(2008-2025年冬季)。
研究结果:
3.1 TimeSformer模型性能评估:通过对比M-PM
2.5和先前深度学习预测模型,TimeSformer模型在测试期间表现优异:平均偏差误差(MBE)为0.1 μg m
?3,平均绝对误差(MAE)为4.9 μg m
?3,均方根误差(RMSE)为6.6 μg m
?3,相关系数(R)为0.90,一致性指数(IOA)为0.94,分类准确率为76.1%,高PM
2.5事件命中率(POD)为75.0%,误报率(FAR)为28.6%。该性能优于M-PM
2.5(MBE=-2.0 μg m
?3,POD=42.5%),并与其他研究结果相当,表明模型足以支持XAI解释。
3.2 XAI方法定量评估:对四种事后方法(遮挡、LIME、SHAP、IG)进行忠实性、模型依赖性和复杂性评估。忠实性测试显示,对于低PM
2.5事件,SHAP在删除和插入测试中表现最佳;对于高PM
2.5事件,IG表现最佳。模型参数随机化测试表明,IG和SHAP的归因图随参数随机化迅速变化,而遮挡和LIME在较小K值时保留较高相似性。复杂性分析显示,IG具有最高基尼指数和最低香农熵,归因最集中;LIME则最分散。综合评估,IG和SHAP是解释TimeSformer模型的最适方法。
3.3 基于XAI的TimeSformer模型解释:注意滚出图显示,模型注意力高度集中在首尔局部区域,所有时间步的注意力分数低于0.2的区域限于朝鲜半岛外,且时间步间空间相关系数超过0.96,表明模型忽视天气尺度时空演变。IG归因图(高PM
2.5事件)显示,M-PM
2.5、RH2m、PRCP和BLH的归因与物理知识一致(正贡献),但Z850和T2m的归因在首尔附近为负,与高压系统和暖温有利于高PM
2.5的已知约束矛盾。变量重要性分析(PFI、遮挡、IG、SHAP、LIME)一致将M-PM
2.5列为最重要变量,BLH次之,其他变量排名因方法而异。这表明模型依赖局部统计关系,而非物理过程。
总结讨论与结论:讨论部分指出,XAI解释与真实物理过程之间的差异源于数据驱动模型未显式纳入物理原则,且XAI方法本身可能产生不可靠近似。研究人员建议采用物理信息神经网络(PINN)将物理约束直接融入AI学习过程,以同时实现高预测精度和可靠可解释性。研究结论:本研究检验了黑箱机器学习模型内部决策过程是否与首尔冬季PM
2.5浓度相关的已知物理过程一致。TimeSformer模型在分类准确率(76.1%)和高PM
2.5事件命中率(75.0%)上表现良好,使XAI解释可靠。XAI分析揭示模型决策与物理过程存在根本性差异:模型内部表示对天气尺度气象模式的时空演变敏感性有限,归因图显示对位势高度和温度的负贡献与物理关系矛盾。这表明数据驱动模型在决策中表示正确物理过程的能力有限,将相关物理约束纳入AI架构对于获得物理一致且稳健的AI模型结果至关重要。