《Environmental Modelling & Software》：A graph neural network and Transformer-based model for PM2.5 prediction through spatiotemporal correlation
编辑推荐：
在 PM2.5 浓度预测中，Transformer 架构存在时空特征提取不足、易受无关数据干扰的问题。研究人员提出 GNN-Transformer 模型。实验表明该模型在长短时预测任务中表现优异，能提前预警空气污染，对保障公众健康和环境质量意义重大。
随着工业化进程的加速，雾霾已成为人们日常生活中挥之不去的阴影。空气污染物中，细颗粒物（PM2.5）的危害不容小觑。长期暴露在含有 PM2.5 的环境中，人们极易患上呼吸系统疾病、急性心脏病、脑血管疾病等。准确预测 PM2.5 浓度，成为了减轻空气污染危害的关键所在。
在过往的研究中，预测空气污染物浓度的方法主要分为非深度学习和深度学习两类。非深度学习方法里，确定性方法基于大气物理和化学反应来模拟污染物的形成、扩散等过程，但这类方法需要复杂的先验知识，在非线性条件下分析污染物存在局限性。而基于数据驱动和统计建模的统计方法，如支持向量回归（SVR）、自回归移动平均（ARMA）等，在处理这类情况时表现相对较好。在深度学习领域，在 Transformer 模型出现之前，已有多种模型被应用于空气污染物预测，像多层线性回归（MLR）、人工神经网络（ANN）等可检测数据间复杂关系；循环神经网络（RNN）及其变体长短期记忆网络（LSTM）能有效捕捉空气污染物的时间特征；还有卷积神经网络 - 长短期记忆网络（CNN-LSTM）等结合多种模型优势来提取时空相关性。
然而，Transformer 模型虽在计算机视觉（CV）和自然语言处理（NLP）等领域成绩斐然，在解决长序列时间序列预测（LSTF）问题上也颇具潜力，但在 PM2.5 浓度预测任务中却遇到了难题，它难以有效提取时空特征，还容易受到无关数据的干扰。为了解决这些问题，研究人员开展了一项关于利用图神经网络（GNN）和 Transformer 构建模型预测 PM2.5 浓度的研究。该研究成果发表在《Environmental Modelling 》上，其结论对于准确预测 PM2.5 浓度、提前预警空气污染具有重要意义。
研究人员开展此项研究主要运用了以下关键技术方法：首先设计了基于瞬时相位同步的估计器（IPS estimator），用于分析目标城市与其他城市间的时空相关性，以此筛选出周边相关城市，排除无关城市对预测的干扰；接着引入基于 GNN 的空间影响建模层（SIM Layer）来提取目标城市与周边城市间的空间影响；最后构建基于 Transformer 的时空预测模块（SPM）进一步提取时空特征，实现对 PM2.5 浓度的精准预测。研究数据选取了华北平原和长江中下游地区 2015 年 1 月 1 日至 2018 年 12 月 31 日，以 3 小时为间隔的数据，将其按 80%、10%、10% 的比例划分为训练集、验证集和测试集。
研究结果
- 模型预测性能优越：通过在真实数据集上进行实验，GNN-Transformer 模型在短期和长期预测任务中均表现出色。在 3 小时预测任务中，该模型的平均绝对误差（MAE）低至 6.35，决定系数（R2）高达 0.97；在 24 小时预测任务中，MAE 为 18.66，R2为 0.76 ，在不同时间跨度的多尺度预测任务中均取得了最佳结果。这表明该模型能有效捕捉数据特征，实现精准预测。
- 高浓度预测能力突出：GNN-Transformer 模型在预测高 PM2.5 浓度方面表现卓越，其关键成功指数（CSI）和检测概率（POD）最高，误报率（FAR）最低。这意味着该模型可以有效识别高浓度污染情况，为潜在的空气污染事件提供可靠的早期预警。
研究结论和讨论
研究人员提出的 GNN-Transformer 模型有效解决了 Transformer 架构在 PM2.5 浓度预测中存在的问题。通过设计 IPS estimator 排除无关城市数据干扰，利用 GNN 和 Transformer 的优势分别提取空间和时空特征，该模型在不同时间跨度的预测任务中均展现出良好的性能，尤其是在高浓度 PM2.5 预测方面优势明显。这一研究成果对于空气质量预测和空气污染预警具有重要的实践意义，能够为政府部门制定环保政策、公众提前做好防护措施提供有力支持，有助于降低空气污染对人们健康和环境的危害，在环境保护和公共健康领域具有广阔的应用前景。
