基于成对跨模态注意力融合与混合专家机制的股票走势预测

《Mathematics》：PaCMoE: Pairwise Cross-Modal Attention Fusion with Mixture-of-Experts for Stock Movement Prediction

　　

股票走势预测仍然具有挑战性，因为金融时间序列是非平稳的、含噪的，并且在不同异构信息源之间相互依赖。传统的多模态预测方法通常将价格、文本和企业间关系整合为单一表示，难以刻画模态对特定的交互及其在不同市场条件下变化的相关性。为解决该问题，本研究提出成对跨模态注意力融合与混合专家机制（PaCMoE），将多模态交互显式分解为三个模态对——价格–文本、价格–图和文本–图。每个模态对由一个独立的跨模态注意力专家（Cross-Modal Attention expert）建模，并由稠密混合专家（Dense Mixture-of-Experts）路由器根据输入自适应地整合所得表示。该设计能够对成对交互进行分别建模，并实现其贡献的输入依赖加权。模态编码器分别采用用于价格的PatchTST、结合典型相关分析（canonical correlation analysis, CCA）的FinBERT用于文本，以及用于日度相关图的单关系R-GCN。PaCMoE在ACL18（StockNet）基准上采用时间顺序数据划分、基于验证集的模型选择和十个随机种子进行评估。所提方法取得平均准确率60.69%和MCC 0.2200，与基于LSTM的Adv-ALSTM和基于Transformer的DTML所报告的多随机种子数值相当或更高。附加评估包括单次运行消融研究、纳入中性日的三分类预测、精确率–召回率分析，以及路由器与注意力权重的可视化，以考察各组件贡献和模型行为。在单块NVIDIA GeForce RTX 3090上每次运行训练约需30 min。上述结果支持显式建模成对跨模态交互并自适应整合其贡献在ACL18基准上进行股票走势预测的有效性。

**研究背景与问题**　多模态股票走势预测近年来受到持续关注，其核心在于将价格序列与新闻、社交媒体等文本信息以及以图结构表示的企业间关系信息相结合。仅依赖价格序列难以显式捕捉地缘政治事件、公司新闻和投资者情绪变化等外生因素，而这些因素难以由定量价格指标充分表征，构成股票走势预测的主要困难来源。既有中间融合方法多以共享融合机制整合多模态，难以分离模态对特定交互，而不同模态对的相对有用性可能依赖输入情境；同时，在ACL18（StockNet）基准上复现的结果显示，仅依赖价格的Adv-ALSTM被多项独立研究作为强基线采用，而额外纳入文本或图模态的融合方法在文献复现中并不总能明显超越它。上述观察促使研究人员重新审视多模态交互的构建与加权方式，而非假定增加模态必然带来性能提升。

**研究内容与结论**　为此，研究人员提出成对跨模态注意力融合与混合专家机制（PaCMoE），将价格、文本、图三种模态的交互显式分解为价格–文本、价格–图、文本–图三个模态对，每一模态对由独立的跨模态注意力专家建模，再由稠密混合专家（MoE）路由器以软门控按输入动态加权整合，并通过多任务学习框架将次日走势分类与涨跌幅度、波动幅度辅助预测任务联合优化。在ACL18基准上以时间顺序划分、基于验证集的模型选择和十个随机种子评估，平均准确率为0.6069、MCC为0.2200，与多随机种子报告下的Adv-ALSTM和DTML相当或更高；但三折滚动前向评估的平均测试MCC为0.111，低于单一测试期且波动更大，表明单一测试期性能不应被视为跨市场状态的期望水平。研究意义在于提供了一种可分别分析各模态对贡献的融合框架，并通过多随机种子、多非重叠测试期、消融研究及路由器与注意力权重分析，揭示了各模态对的作用方式及泛化性方面仍需验证的问题。

**关键技术方法**　价格模态以60个交易日为回看窗口，输入OHLCV与MACD、SMA、EMA、布林带、ATR、Ichimoku、VWAP等技术指标共122维特征，采用Kronos与PatchTST分别编码OHLCV与技术指标，并引入横截面平均价格特征表征整体市场趋势；文本模态将目标公司相关推文及FinGPT生成文本输入FinBERT得到768维表示，再经典型相关分析（CCA）降维至256维；图模态以60、126、252日三个回看窗口的日对数收益Pearson相关系数均值构建日度更新的相关图，每家公司连接相关性最高的十家公司并对称化，输入单关系R-GCN得到256维节点表示。数据来源为ACL18（StockNet）数据集，覆盖88只股票，时间跨度为2014年1月1日至2016年1月1日，训练期为2014年1月1日至2015年7月31日，验证期为2015年8月1日至9月30日，测试期为2015年10月1日至2016年1月1日；前向评估采用16个月训练、2个月验证、2个月测试的滚动窗口，折间施加净化与5日禁运。

**研究结果**　（1）所提方法性能：十个随机种子下平均准确率0.6069、MCC +0.2200、ROC-AUC 0.605、F1 0.621，种子8在四项指标上均为最高（准确率0.6132、MCC +0.2312），MCC跨种子范围为+0.1835至+0.2312，表明性能随随机种子存在波动。（2）消融研究：移除路由器、限制为单一成对专家或仅使用价格模态均使性能相对完整模型下降，而移除辅助任务性能相当；由于单次运行下MCC的95%置信区间宽度约0.28，多数差异不具统计结论性。（3）与多随机种子/多次运行研究的比较：PaCMoE十种子平均准确率0.6069、MCC 0.220，Adv-ALSTM报告准确率0.5720、MCC 0.1483，DTML亦采用10个种子评估，但各研究的数据划分、预处理与评估流程未完全标准化，故不能据此确立优越性。（4）多非重叠期前向评估：九个月份–种子组合平均测试MCC为0.111（准确率0.549），九个值中八个为正，三个时期平均测试MCC分别为0.095、0.137、0.101，跨期与种子范围为?0.080至0.236，约为单一测试期的一半。（5）与计量经济模型的比较：PaCMoE收益回归头的IC为0.046，与Fama–French五因子（0.042）和统计因子模型的残差反转预测（0.063）相当，高于CAPM（?0.013）与三因子（0.015），但差异均不显著；波动头AUC为0.589，与GARCH(1,1)（0.602）和滚动标准差（0.596）相当；滚动相关在最小方差组合中与DCC-GARCH相当（方差比0.96，95% CI [0.70, 1.25]），以DCC-GARCH相关图替换原图后三次运行平均MCC为0.224，接近原图。（6）含中性日的三分类设定：三个种子平均准确率0.465 ± 0.037（随机水平约0.33）、宏F1 0.464 ± 0.035、多类MCC 0.209 ± 0.060、ROC-AUC 0.685 ± 0.013，高于随机水平，但多类MCC与二分类MCC不可直接比较。（7）精确率–召回率：三个种子"上涨"类的平均精确率分别为0.590、0.630、0.612（均值0.611），高于正类比例0.504，高精确率仅出现在约0.15召回以内的高置信子集。（8）路由器与注意力权重：三个种子平均权重为gPT = 0.325、gPG = 0.357、gTG = 0.319；高波动状态下gPG下降约1.5个百分点、gPT上升约1.1个百分点，方向在三个种子间一致（日度gPG与市场波动的Spearman相关为?0.30至?0.40），种子间平均路由器权重差异至多约0.014；各专家上下文token平均注意力权重为0.441（价格–文本）、0.468（价格–图）、0.526（文本–图），权重主要在日间而非同日个股间变化（日内方差占比分别为8%、1%、10%）。

**讨论与结论**　讨论部分指出，PaCMoE的优势在于对每个模态对单独学习相互关系并以路由器按输入动态确定各专家贡献，结合多任务学习从方向、幅度与波动多视角刻画市场变化，且通过十种子与多非重叠期评估报告均值与标准差以考察模型稳定性；高波动状态下路由器降低价格–图专家权重，与波动市场中基于历史窗口估计的相关图可靠性下降的观点一致，但路由器权重变化仅一至两个百分点、注意力权重主要在日度层面变化，说明路由器跟踪局部非平稳性的分辨率有限。局限性包括：评估限于单一基准与单一三个月测试期，同日标签强相关使有效样本量接近交易日数（64），MCC置信区间较宽（[0.008, 0.294]），小样本过拟合风险高；前向评估各期均位于2015年下半年，覆盖市场状态有限；与先前研究的比较因实验条件不完全一致而多不具统计结论性；图仅使用单一关系类型，波动目标采用对所有股票统一的1%阈值而未按个股波动缩放；二分类任务排除中性日且未考虑交易成本与买卖价差，结果不表明交易层面的经济有用性。未来方向包括扩展至多市场、多时期与更长跨度前向评估，细化针对各模态与各专家的消融及路由器权重与性能关系分析，扩展至多时间步与长期趋势预测，并按"放置–调整–优化"三步改进架构。结论部分指出，PaCMoE对三个模态对分别施加跨模态注意力并作为独立专家学习交互，再经稠密混合专家软门控进行输入依赖加权整合以构建最终预测表示；在ACL18/StockNet上十次重复实验的准确率为0.6069 ± 0.00883、MCC为0.2200 ± 0.017、宏F1为0.621 ± 0.005、ROC-AUC为0.605 ± 0.009，单次运行MCC范围为0.1835至0.2312，但所有运行均在同一测试期评估，故不应解读为跨市场状态的稳健性证据；PaCMoE性能处于与现有多运行评估方法相当的范围，然而数据划分、预处理、标签定义与评估流程尚未标准化，故这些结果不能确立PaCMoE优于现有方法；研究基于单一数据集，未验证跨市场泛化性能，消融研究基于单次运行且多数配置差异不具统计结论性。总之，本研究提出了将各模态对跨模态注意力与稠密混合专家软门控相结合的框架，通过多随机种子与多非重叠测试期评估、消融研究及路由器与注意力权重分析，展示了各模态对对预测的贡献方式，同时识别出有待进一步验证的泛化性挑战。