《Frontiers in Artificial Intelligence》:RC-Mamba: regime-conditioned selective state-space models for probabilistic time-series forecasting
编辑推荐:
选择性状态空间模型(Selective State-Space Models, SSMs)如Mamba,通过输入依赖的循环机制实现了线性时间复杂度序列建模,然而这类模型对生成数据的潜在状态(regime)不加区分地施加相同的动态机制——这对于统计特性在不同状态
选择性状态空间模型(Selective State-Space Models, SSMs)如Mamba,通过输入依赖的循环机制实现了线性时间复杂度序列建模,然而这类模型对生成数据的潜在状态(regime)不加区分地施加相同的动态机制——这对于统计特性在不同状态间发生突变的非平稳信号而言,构成了一种结构性失配。本研究提出RC-Mamba,一种概率性预测模型,其选择性SSM主干动态地以潜在状态变量的后验为条件。来自具有黏性Dirichlet先验(sticky Dirichlet prior)的Student-t发射隐马尔可夫模型(Hidden Markov Model, HMM)的状态后验,对SSM的离散化步长Δt以及输入矩阵Bt和读出矩阵Ct进行调制,从而使循环机制的记忆衰减、输入敏感性和输出侧重能够适应当时的主导市场状态。研究评估了一种基于熵的尺度调制组件——状态不确定性门(Regime Uncertainty Gate, RUG),旨在建立从后验锐度到预测区间宽度的映射,但匹配对照实验未能识别出该组件相对于状态无关缩放带来的性能增益。一种层级特征级线性调制(Feature-wise Linear Modulation, FiLM)嵌入在不设置显式资产类别预测目标的情况下,捕获了资产特定与行业层面的结构信息。研究在覆盖五大资产类别的18只美国上市ETF上,采用五个日历对齐的扩展窗口滚动前推折(测试年份为2021–2025年),RC-Mamba取得了0.00532的平均连续排名概率分数(Continuous Ranked Probability Score, CRPS),较Vanilla Temporal Fusion Transformer提升4.7%,较DeepAR提升8.9%,较S-Mamba提升15.2%,较HMM条件化DeepAR提升18.5%。所有模型均采用稳健中位数绝对偏差(robust-MAD)预处理、11,450次优化器更新的共同上限并配合基于验证集的早停,以及等于最大预测视界的30个交易日起点禁运期,因此预处理和训练预算均不构成架构比较的混淆因素。显著性评估基于1,110个同步预测起点,采用尊重序列依赖与横截面依赖的移动块自助法(moving-block bootstrap),而非将重叠视界视为独立样本;经Holm校正后所有比较均保持显著(pHolm = 0.006)。RC-Mamba还取得了最优的Winkler80分数(0.0364),其中PICP80 = 0.781,PINAW80 = 0.024,并恢复了三个可解释状态(平静、过渡、压力),将2025年4月观测到的全部25个交易日均归属于压力状态。匹配的单折消融实验表明,在波动性最大的测试年份中,移除状态条件化会使CRPS恶化2.05%,尽管若干组件对比在不同折间符号发生变化,因此被报告为设计权衡而非已识别的因果效应。基于滞后一日的多头回测在1,255个样本外交易日上实现8.89%的年化收益率,对比等权基准的6.56%,但其1.18%的年化alpha不具有统计显著性(p = 0.506),且在1–10个基点成本下仍不显著;因此经济证据具有提示性而非结论性。向非金融领域的迁移留待未来工作。
论文解读
一、研究背景与问题提出
时间序列预测在金融领域面临的核心挑战在于市场的非平稳性——宏观经济环境的变化(如货币政策收紧、信用压力、地缘政治冲击)会系统性改变价格、波动率及跨资产相关性的联合分布,使数据生成过程在不同状态(regime)之间发生结构性切换。然而,当前主流的深度学习时间序列架构——包括Temporal Fusion Transformer(TFT)、DeepAR、N-BEATS等——均未接收关于宏观环境处于平静、过渡还是压力状态的显式信号。状态适应必须通过训练信号隐式涌现,这对模型容量和训练数据提出了极高要求,尤其是稀缺的压力事件难以在训练窗口中被充分表征。
与此同时,经典的状态切换计量经济学模型(如Hamilton 1989年提出的马尔可夫切换自回归模型)虽然能够产生可解释的状态分配,但在高维多资产预测场景中面临维度灾难,难以扩展到18只ETF、30个特征、完全分布式的预测设定。Mamba作为选择性状态空间模型的代表,通过输入依赖的离散化和线性时间复杂度提供了注意力机制的高效替代方案,但其循环参数同样缺乏对主导市场状态的结构性感知。两个研究传统——状态切换计量经济学与深度时序预测——长期处于割裂状态。
二、研究内容与核心贡献
针对上述结构性失配,研究人员提出了RC-Mamba,其核心创新在于机制层面而非既有模块的重新组合:将隐马尔可夫模型(HMM)的状态后验在SSM参数投影之前与输入特征拼接,使循环机制的离散化步长Δt、输入矩阵Bt和读出矩阵Ct在每个时间步都成为状态自适应的——这是一种结构上最小化的改变,同时保持了线性时间扫描算法不变。据研究人员所述,此前尚无选择性状态空间模型以这种方式对其循环参数进行潜在状态后验条件化。
研究围绕三个研究问题展开:RQ1——对Mamba的SSM参数(Δ, B, C)进行HMM状态后验条件化能否相较于状态无关的替代方案提升概率预测精度;RQ2——具有黏性Dirichlet先验的Student-t发射HMM能否产生经济上可解释且时间上持续的状态分配;RQ3——基于后验熵的尺度调制能否超越状态无关的尺度对照实现更好的校准。研究做出六项贡献:RC-Mamba块、Student-t HMM与黏性Dirichlet先验、状态不确定性门(RUG,经评估但未获支持)、层级FiLM嵌入、状态条件化可解释性框架,以及涵盖18只ETF、五个资产类别、五个日历对齐扩展窗口滚动前推折的走前向评估协议。
三、关键技术方法
研究人员构建了六层处理流水线。状态检测模块采用K状态HMM,以VIXCLS、BAMLH0A0HYM2和DGS10-DGS2三个宏观金融可观测量的三元组为输入,通过Student-t发射分布捕获金融波动率与信用利差分布的厚尾特征,采用严格因果的对数空间前向滤波(无后向平滑)生成状态后验γt,并通过黏性Dirichlet先验、转移熵正则化和自转移惩罚三项正则化损失共同保证转移矩阵的良好条件性。RC-Mamba块的核心机制在于将因果卷积后的特征与状态后验拼接后再投影至Δ、B、C三个SSM参数,其中Δ通过softplus加ε下限保证正性,A参数通过对数空间softplus取负保证循环不发散,零阶保持(ZOH)离散化生成离散转移矩阵。层级FiLM嵌入结合行业与标的层面嵌入实现资产特定残差与共享因子暴露的联合学习。模型输出Student-t分布参数(ν>3保证方差有限),训练采用四阶段协议,以CRPS为最终目标函数。评估在18只美国上市ETF上进行,覆盖股票、固定收益、大宗商品和国际市场五大资产类别,采用五个日历对齐的扩展窗口走前向折,测试年份为2021–2025年,所有模型共享robust-MAD预处理、11,450次优化器更新上限与验证早停、30个交易日起点禁运期,显著性检验基于1,110个同步预测起点的移动块自助法并辅以HAC调整的Diebold–Mariano检验。
四、研究结果
总体预测性能。RC-Mamba在五个走前向折上取得0.00532的平均CRPS,较Vanilla TFT提升4.7%,较DeepAR提升8.9%,较S-Mamba提升15.2%,较HMM条件化DeepAR提升18.5%。移动块自助法确认了RC-Mamba相对于全部六个对比模型的统计显著优势(pHolm = 0.006)。
区间校准质量。RC-Mamba取得最优的Winkler80分数(0.0364),PICP80 = 0.781,PINAW80 = 0.024,表明模型在预测区间覆盖率和锐度之间实现了良好平衡。
状态可解释性。学习得到的HMM恢复了三个经济上可解释的状态——平静(Calm)、过渡(Transition)和压力(Stress)——并将2025年4月观测到的全部25个交易日均归属于压力状态,验证了状态分配的经济合理性。
消融实验。匹配的单折消融表明,完全移除状态条件化是最具破坏性的单一改变(在最波动测试年份中CRPS恶化2.05%),而对投影进行条件化优于将同一后验作为普通输入拼接(+0.81%)。但若干组件对比在不同折间符号发生变化,因此被报告为设计权衡而非已识别的因果效应。SiLU门被保留为预选配置而非实证改进。
经济验证。基于滞后一日的多头回测在1,255个样本外交易日上实现8.89%的年化收益率,对比等权基准的6.56%,但1.18%的年化alpha不具有统计显著性(p = 0.506),且在1–10个基点成本下仍不显著,经济证据具有提示性而非结论性。
可解释性分析。通过结合VSN选择权重与按状态分层的分组置换SHAP归因,研究人员发现状态条件化会跨市场状态重新排序因子重要性——广义经济不确定性和货币政策特征在压力状态下领先,而美联储资产负债表和劳动力市场特征在过渡状态下领先——而非对单一特征画像进行缩放。
五、讨论与结论
研究人员明确指出,RUG组件——一个包含后验熵、峰值概率和转移不确定性三个特征的尺度调制门——在两组匹配消融批次中均未表现出优于状态无关学习全局尺度的性能,因此被报告为经评估的辅助组件而非已验证组件。研究的核心架构主张——对选择性SSM的(Δ, B, C)投影进行HMM后验概率条件化——获得了消融证据的支持,但研究人员审慎地将其他组件对比定性为设计权衡。研究结论认为,RC-Mamba通过将HMM作为轻量级状态检测前端来条件化深度骨干网络,在保持经济可解释性的同时实现了向多资产、多特征、完全分布式设定的扩展,填补了状态切换计量经济学与深度时序预测之间的空白。经济层面的回测证据虽具提示性但不具结论性,向非金融领域的迁移被留作未来工作。