融合计量先验的经济损失引导多头自注意力金融预测模型

《Scientific Reports》：Econometric-prior-guided multi-head attention with application for interpretable multi-horizon financial forecasting

　　可靠的金融预测需要预测准确性和模型行为的透明性。本研究提出了经济损失引导多头自注意力（ELG-MHSA），这是一个Transformer框架，将三个注意力头分别正则化到不同的计量经济学和统计先验：基于GARCH的条件方差、用于均值回复的滞后移动平均目标以及单边趋势估计。这些先验在每个因果输入窗口内分别构建，并且仅针对符合条件的历史位置进行归一化，防止未来信息进入训练或评估。所提出的损失函数与预测目标联合优化，而不改变Transformer编码器的结构。在VIX期货、FRED-MD和币安BTC-USD上的实验将ELG-MHSA与GARCH(1,1)、EGARCH、标准多头Transformer和时间融合Transformer进行比较。除非伴随正式的估计不确定性估计，报告的結果被解释为描述性的性能差异。该框架旨在提高注意力的经济可解释性，同时保留多时间尺度预测能力。