混合深度学习技术与机器学习集成用于外汇汇率预测

《Electronics》：Hybrid Deep Learning Techniques Integrated with Machine Learning for Foreign Exchange Rate Forecasting Yu Cui and Jingjing Jiang

　　

外汇是一个重要的金融市场，吸引着寻求盈利投资的投资者和国家。尽管存在多种汇率预测和趋势分析技术，但仍需要一种自动化的智能模型来理解模式并预测未来趋势。此类预测模型的创建可以为投资者、金融机构和政府决策者提供帮助。为了克服这些问题，该研究开发了一种新颖的混合深度学习模型，该模型包括双向长短期记忆（Bidirectional Long Short-Term Memory，Bi-LSTM）、加性注意力方法（additive attention approach）和随机森林回归器（random forest regressor，RFR，用于长期历史数据），试图为下一年度的官方汇率（LCU per USD）提供预测模型。随机森林回归器对特征的非线性交互进行建模并有助于泛化，注意力层关注最具影响力的时间步长，双向长短期记忆（Bi-LSTM）捕获汇率序列的所有历史数据和时间依赖性（或历史数据序列的依赖性）。使用时间分区（1960–2018年训练数据 + 2019–2023年验证数据 + 2024年测试数据）来训练和评估模型，提供了现实的预测并防止了时间泄漏。覆盖250多个国家和地区的全球面板数据集表明，所有提出的模型都优于所有经典机器学习模型、独立深度学习模型和朴素持久性模型（naive persistence models）。混合模型显示出最显著的预测误差减少，R²为0.98，证明了长期货币预测非常稳健。

外汇市场作为全球重要的金融市场，其汇率预测对投资者、金融机构及政策制定者至关重要。然而，汇率数据固有的非线性、非平稳性和时间依赖性，使得传统统计方法难以准确建模。尽管已有递归神经网络（如长短期记忆网络，LSTM）和集成学习方法在金融时间序列预测中取得进展，但将深度时序特征提取与强泛化能力的集成方法（如随机森林）结合的研究仍不充分。为弥补这一空白，研究人员提出了一种融合双向长短期记忆（Bi-LSTM）、加性注意力机制和随机森林回归器（RFR）的混合深度学习模型，旨在利用全球多年面板数据预测下一年度官方汇率（LCU per USD）。该研究使用1960–2024年间超过250个国家和地区的世界银行年度汇率数据，通过时间分区（1960–2018训练、2019–2023验证、2024测试）防止数据泄露。实验结果表明，所提混合模型在R²（0.984）、均方误差（MSE）、平均绝对误差（MAE）及皮尔逊相关系数（0.991）等指标上均显著优于经典机器学习、单一深度学习及朴素持久性模型，验证了长期汇率预测的稳健性。该论文发表在《Electronics》。

研究人员采用的主要技术方法包括：首先，对原始数据集进行预处理，包括去除过多缺失值的国家、使用迭代插补法填补缺失值、对数变换（log(1+x)）稳定方差，以及独热编码处理分类变量。随后应用MinMaxScaler对特征进行归一化（范围[0,1]），并基于时间顺序划分训练、验证和测试集，避免时间泄露。核心模型架构由三部分组成：**双向长短期记忆网络（Bi-LSTM）** 作为时序特征提取器，双向处理序列以捕获过去和未来的上下文依赖；**加性注意力机制（additive attention）** 动态计算每个时间步的权重，生成加权上下文向量，突出关键历史时期；**随机森林回归器（RFR）** 则利用基于注意力加权特征，通过集成多棵决策树建模非线性交互并提高泛化能力。超参数通过GridSearchCV优化，并采用ReduceLROnPlateau动态调整学习率，以及全局平均池化（GAP）降低过拟合风险。数据来源为世界银行官方汇率数据集（LCU per USD，1960–2024年，涵盖200多个国家）。

### 4. 结果与讨论
#### 4.1 讨论
研究人员通过消融实验和基准对比评估模型性能。实验表明，朴素持久性模型（如“Last Observed Value”）因年度汇率的高时间自相关而表现较强（R² = 0.887），但线性回归等传统统计方法效果差（R² = 0.206）。树集成方法（随机森林）显著提升（R² = 0.978）。深度学习模型中，单向LSTM（R² = 0.632）弱于双向LSTM（Bi-LSTM，R² = 0.911），而结合RFR后进一步提升（R² = 0.967）。所提出的Bi-LSTM + Attention + RFR混合模型表现最优，达到最高R²（0.984）、最低MAE（0.108）和RMSE（0.196），以及最高相关系数（0.991）。配对t检验显示，混合模型残差显著低于朴素持久性和单独随机森林模型（p < 0.01）。图示分析（散点图、箱线图、残差图、损失曲线等）直观证实了混合模型的预测一致性、泛化能力和误差最小化。LIME可解释性分析表明，近年历史汇率（如2023年特征）对预测贡献最大，符合时序规律。与现有前沿模型（如MVO-BiGRU、TCN-QV、SARIMA-LSTM）的对比显示，所提模型在全局多国数据上取得竞争力（R²=0.985），且具备跨国家通用性。

#### 4.2 局限性
讨论部分指出，尽管混合模型在年度数据上表现优异，但年度数据平滑了短期波动与结构断点，且模型仅依赖历史汇率，未纳入宏观经济基本面（如利率、通胀、GDP等），限制了可解释性和对极端事件的响应。未来可引入高频数据及外生变量以增强实用性。

### 5. 结论
在本研究中，研究人员开发了一种基于注意力机制的双向长短期记忆（Bi-LSTM）与随机森林回归器（RFR）的混合模型，基于历史时间序列数据预测下一年度全球货币的官方汇率（LCU per USD）。研究人员还评估了其他基线模型，包括单独的Bi-LSTM以及Bi-LSTM与RFR的组合。所提出的Bi-LSTM + Attention + RFR模型一致优于基准算法，展示了其在预测效能上的优越性。集成注意力机制使模型能够聚焦于关键时间步长，从而提升预测性能，而随机森林组件改善了模型的泛化能力，带来了更准确和稳定的预测。这一独特方法利用了问题的序列特性、特征加权和集成回归，在处理汇率预测模型典型的复杂动态时间序列数据方面展现出卓越效果。除了过拟合问题已被显著处理外，过程中的时间依赖性也得到了良好解决，但模型仍留有进一步改进的空间。这将把该混合框架的验证范围扩展到金融领域内的其他领域，如股票价格、商品和加密货币。整合额外的宏观经济因素，包括利率差异、通货膨胀和地缘政治风险，也能进一步提升模型的预测精度。此外，未来可分析基于该模型预测的交易策略效果，以评估其对投资者、政策制定者等动态金融市场参与者的相关性。