集成CNN-Transformer双通道动态注意力架构的股票市场价格预测模型

《Mathematics》：A Stock Market Price Prediction Model Integrating a CNN–Transformer Dual-Channel Dynamic Attention Architecture

　　

股票市场价格预测仍然是一个持续的挑战，原因在于金融时间序列具有非平稳性（non-stationarity）、高噪声含量以及复杂的时空依赖（spatiotemporal dependencies）特征。现有方法通常擅长于局部模式提取（local pattern extraction）或长程依赖建模（long-range dependency modeling），但很少能在统一框架内兼顾两者。本文引入了一种配备动态注意力融合模块（dynamic attention fusion module）的CNN-Transformer双通道架构用于股票价格预测。卷积通道（convolutional channel）应用分层扩张卷积（hierarchical dilated convolutions）从多指标序列中提取细粒度局部模式，同时抑制高频噪声。同时，Transformer通道（Transformer channel）采用多头自注意力（multi-head self-attention）捕捉长期时间相关性（long-distance temporal correlations）和制度转换动态（regime-shift dynamics）。然后，一个可学习的门控机制（learnable gating mechanism）根据市场条件自适应地加权局部细节与全局趋势信息，融合两个特征流。在覆盖标普500（S&P 500）、沪深300（CSI 300）、纳斯达克综合指数（NASDAQ Composite）和恒生指数（Hang Seng Index）的四个真实股票数据集上进行的实验表明，与包括LSTM、CNN-LSTM、Informer和PatchTST在内的竞争基线相比，所提出的模型将平均绝对误差（MAE）降低了9.7–15.3%，将均方根误差（RMSE）降低了9.5–13.8%。消融研究（ablation studies）进一步表明，两个通道和融合模块都对预测精度有贡献，并且该架构在不同波动性特征的市场中保持有效。

股票市场价格预测因金融时间序列的非平稳性（non-stationarity）、高噪声含量和复杂的时空依赖（spatiotemporal dependencies）而长期面临挑战。现有方法如长短期记忆网络（LSTM）或Transformer虽各有优势，但难以同时兼顾局部模式提取与长程依赖建模，且串行混合架构（如CNN-LSTM）会限制信息互补性。研究人员提出一种CNN-Transformer双通道动态注意力融合架构（CT-DualAttn），旨在通过并行处理局部与全局特征并自适应融合，提升预测鲁棒性。实验在四个国际化股票指数（标普500、沪深300、纳斯达克综合指数、恒生指数）上进行，结果表明CT-DualAttn相较于LSTM、CNN-LSTM、Informer、PatchTST等基线，MAE降低9.7–15.3%，RMSE降低9.5–13.8%。消融实验证实双通道设计与融合模块均贡献显著，且架构在不同波动性市场中保持有效。该研究发表在《Mathematics》期刊，为金融时间序列预测提供了兼具局部细节与全局趋势的混合建模新范式。

研究人员为开展研究用到的主要关键技术方法包括：CNN通道采用分层扩张因果卷积（dilated causal convolution）结合Squeeze-and-Excitation（SE）模块，用于提取局部模式并抑制噪声；Transformer通道采用多头自注意力（multi-head self-attention）结合旋转位置编码（Rotary Position Embedding, RoPE），用于建模长程时间依赖；动态注意力融合模块通过可学习门控机制（gating mechanism）自适应加权两个通道的特征流；预测头通过可学习位置权重聚合时间序列并经由多层感知机（MLP）输出；损失函数结合均方误差（MSE）与方向性惩罚项。样本数据来源包括标普500（S&P 500）、沪深300（CSI 300）、纳斯达克综合指数（NASDAQ Composite）和恒生指数（Hang Seng Index），数据分别来自Yahoo Finance和Wind Information。

**5.1 主要比较（Main Comparison）**：在四个数据集上（预测 horizon h=1），CT-DualAttn在MAE和RMSE上均优于所有基线，且在波动性最高的沪深300上改进最大（MAE降低15.3%），而标普500上降低9.7%；同时，CT-DualAttn在R2和方向性准确率（DA）上也最高，R2介于0.965–0.975，DA均高于57%。
**5.2 消融研究（Ablation Study）**：在沪深300上进行消融实验，移除CNN通道（仅Transformer）使MAE增加12.8%，移除Transformer通道（仅CNN）使MAE增加17.4%；将动态融合替换为静态平均（Static-Avg）使MAE增加7.2%；移除CNN通道中的SE模块（No-SE）使MAE增加4.1%；移除方向性损失项（No-Dir）使DA降低2.3个百分点。参数匹配的单通道控制（Trans-Wide和CNN-Wide）仍不及双通道模型，表明改进源于互补信息而非参数容量。
**5.3 多步预测（Multi-Horizon Prediction）**：在标普500上测试h=3,5,10的预测，所有模型性能随horizon增长而下降，但CT-DualAttn始终保持优势，在h=10时MAE改进达到13.1%，表明双通道架构提取更持久的特征。
**5.4 预测可视化（Visualization of Predictions）**：在标普500测试集120天片段中，CT-DualAttn的预测曲线比PatchTST更贴近真实价格，尤其在调整和恢复阶段偏差更小。
**5.5 门控值分析（Gating Value Analysis）**：在沪深300测试集上，平均门控值显示高波动时段（第30–55天）更依赖CNN通道，平滑趋势时段（第70–100天）更依赖Transformer通道。Pearson相关系数表明门控值与20天实现波动率呈正相关（r=0.31），与60天累计收益绝对值呈弱负相关（r=-0.12），证实了自适应行为。
**5.6 计算效率（Computational Efficiency）**：CT-DualAttn每epoch训练时间约为PatchTST的1.4倍，但推理延迟仅2.8毫秒每样本，满足日频交易系统需求。
**5.7 滚动窗口评估与市场状态（Rolling-Window Evaluation and Market Regimes）**：采用五个预测起源的扩展窗口协议，CT-DualAttn在每个市场的平均MAE均最低。按市场状态分层的MAE显示，在波动性状态下改进最大，在平静/牛市状态下改进较小。
**5.8 预测差异的统计显著性（Statistical Significance of Forecast Differences）**：Diebold-Mariano检验（针对PatchTST）在沪深300和纳斯达克上p值<5%（经Holm校正），标普500和恒生指数上不显著；块自助法95%置信区间均排除零，但恒生指数区间较宽。方向性准确率高于50%，但与滞后方向动量规则的比较较弱。

**讨论部分总结**：实验结果支持并行CNN和Transformer通道优于单一架构或串行混合。消融和门控分析表明动态融合模块适应市场状态，为改进提供解释。但模型存在局限性：固定60天回看窗口、仅依赖价格特征、未考虑高频数据、方向性准确率绝对值（57–58%）中等。未来方向包括多步预测、多模态数据集成、以及将双通道范式扩展至波动率建模和期权定价。
**研究结论翻译**：本文提出了一种带有动态注意力融合的CNN-Transformer双通道架构用于股票市场价格预测。通过维持独立的卷积和注意力处理路径，并通过学习到的、输入依赖的门控机制融合其输出，该模型同时捕捉局部模式和长程时间依赖。在标普500、沪深300、纳斯达克综合指数和恒生指数上，CT-DualAttn相对于PatchTST将MAE降低了9.7–15.3%。本文包含了扩展窗口平均值、状态条件误差、容量匹配控制和配对预测检验，以考察差异是否取决于单个日历分割或模型规模。统计证据的强度因市场而异。消融和门控分析提供了互补的诊断证据，但不应被解释为因果解释。该架构在测试的日频设置下训练可行，但比最强的单流Transformer基线慢。未来方向包括将框架扩展至多步同步预测、纳入异构数据模态，以及测试相同融合策略是否适用于波动率建模和期权定价等任务。