基于频率调制变压器自注意力的先进传染病预测模型

《ACM Transactions on Intelligent Systems and Technology》：Frequency Modulated Transformer Self-Attention for Advanced Infectious Disease Prediction

针对传染病时间序列预测中的非平稳性和复杂频率动态问题，提出频率调制Transformer（FMT）框架，通过熵基特征选择整合IMF分解与Transformer架构，显著降低均方根误差和平均绝对误差，提升预测精度，并验证了其实效性。

　　

摘要

传染病的时间序列预测对于应对重大的全球健康挑战至关重要。人工智能（AI），特别是深度学习（DL）算法，在序列建模方面取得了显著的成功；然而，由于疾病传播的非平稳特性和复杂的频率动态，这些算法在流行病学预测中的表现仍然受到限制。本研究提出了一种新颖的频率调制变换器（FMT）框架来应对这些挑战。FMT框架将时间序列数据分解为不同的频率调制信号，并利用自注意力机制来捕捉时间频率。随后，通过变换器编码器-解码器架构来预测和捕捉多尺度的时间依赖性，从而实现准确的预测。该方法的创新之处在于将输入时间序列分解为固有模态函数（IMFs），并通过基于熵的特征选择将频率特定的成分整合到变换器架构中。与传统方法相比，FMT框架将均方根误差（RMSE）和平均绝对误差（MAE）分别降低了约50%和65%。此外，其R2得分提高了8%，表明预测准确性得到了提升。该方法使用来自多个国家的COVID-19数据集以及流感数据集进行了评估，并与统计方法、机器学习方法和最先进的深度学习基线进行了对比。通过比较有无这一组件的结果，系统地检验了基于熵的IMF整合的贡献，强调了其在提高预测准确性方面的关键作用。这项工作突显了在预测准确性和计算效率方面的显著改进，推动了流行病学预测的发展，为实时公共卫生决策和基于AI的疾病监测系统提供了支持。