"时序"遇上"文本":用大语言模型构建预测的语义桥梁
《Pattern Recognition Letters》:“Time” Meets “Text”: Building the Semantic Bridge for Forecasting with LLMs
【字体:
大
中
小
】
时间:2026年09月21日
来源:Pattern Recognition Letters 3.5
编辑推荐:
• 提出了一种面向时间序列预测的语义框架TMT,用于实现时序与文本的对齐。
• 开发了一种结构依赖路径,用于捕获跨通道交互。
• 利用多尺度融合路径实现层次化特征融合。
• 实现了一种多层次损失函数,以高效地达到最优性能。
## 引言
时间序列预测在众多领域引起了广泛的研
• 提出了一种面向时间序列预测的语义框架TMT,用于实现时序与文本的对齐。
• 开发了一种结构依赖路径,用于捕获跨通道交互。
• 利用多尺度融合路径实现层次化特征融合。
• 实现了一种多层次损失函数,以高效地达到最优性能。
## 引言
时间序列预测在众多领域引起了广泛的研究关注,包括能源优化[1]、交通流量预测[2]和金融交易[3]。这些任务的基本目标是识别嵌入在时间序列数据中的潜在模式,从而推断未来状态。传统上,该领域由专门的统计和深度学习模型主导。尽管这些模型性能强劲,但它们往往无法融入丰富的语义上下文,也无法利用大规模预训练模型的知识。
近年来,利用大语言模型(LLMs)在推理、常识知识表示和复杂模式识别方面展现出了卓越的文本数据处理能力。这一成功引发了利用LLMs进行时间序列分析的兴趣日益增长。直观地说,在时间数据上微调的LLM可能能够识别传统模型难以捕获的底层因果关系。OmniFuse [4]利用语言驱动的语义实现了在复合退化场景下高度鲁棒的图像融合。
研究者利用GPT [5]和LLaMA [6]等模型的预训练推理能力,旨在将时序预测从数值回归提升为更高阶的语义推理任务。
然而,将LLMs直接应用于时间序列预测存在一个根本性挑战:模态鸿沟。LLMs本质上被设计用于处理离散文本标记("文本"),其语义空间由语言定义。相比之下,时间序列数据("时间")是连续的、数值的,其内在价值在于结构和时间依赖性。如图1(a)所示,当时间序列数据将每个数值视为独立标记直接输入LLM时,模型无法捕获时间依赖性,导致预测性能不佳。图1(b)中,向LLM提供时间序列的文本提示但未融入数值特征,该模型缺乏对底层数值模式的感知,导致分析结果脱离实际数据。图1(c)展示了一种混合方法,将时序特征和文本提示融合后输入LLM,但该方法难以捕获特征交互,从而限制了模型的有效性。最后,在多元时间序列的背景下,图1(d)表明将不同变量(通道)的特征直接输入LLM无法捕获跨通道依赖性,进一步制约了建模能力。
为了弥合这一根本性的模态鸿沟,我们提出了一种名为"时间"遇见"文本"(TMT)的新型框架,通过双路径协作架构建立语义桥梁。具体而言,双路径协作设计并非时间序列预测所独有。CASPFuse [7]采用双循环横向感知网络来解决不同模态之间的特征空间不一致问题。这种跨领域一致性进一步激发了我们双路径架构对齐时序和文本模态的灵感。TMT包含一条结构依赖路径和多尺度语义融合路径。结构依赖路径专门针对图1(a)和1(d)所示的局限性进行设计。与将数值视为独立标记不同,该路径利用对文本标记的去噪注意力来过滤时间序列数据中的噪声。此外,它通过图卷积网络捕获多元时间序列中的跨通道依赖性,克服了将变量特征直接输入LLMs的失败。另一方面,多尺度语义融合路径解决了图1(b)所示的问题。该路径不仅依赖文本提示或简单特征融合,而是将多尺度的时序输入整合到文本标记中,实现对不同时间尺度的全面特征提取并促进特征交互。最后,设计了一种多层次损失函数来解决图1(c)所示的问题,促进文本表示与时序表示的有效融合,确保模型基于实际数值模式,同时受益于LLMs的推理能力。总之,我们的主要贡献如下:
• 我们设计了一条结构依赖路径,利用去噪注意力和图卷积网络捕获多元时间序列中的跨通道依赖性。
• 我们引入了一种多尺度语义融合路径,将多尺度的时序输入整合到文本标记中,实现对不同时间尺度的全面特征提取,并促进时序模式与文本语义之间的交互。
• 我们开发了一种多层次损失函数,促进文本和时序表示的有效融合,确保模型基于数值模式,同时利用LLMs的推理能力。
• 在多个基准数据集上的大量实验表明,TMT相比现有最优模型持续取得显著改进,验证了我们方法的有效性。
## 小节片段
### 时间序列预测
深度学习通过强大的非线性拟合和自动特征提取推动了时间序列预测的发展。早期研究主要集中于循环神经网络(RNNs)及其变体,它们擅长捕获短期时间依赖性和动态时间行为。为克服训练效率低和难以捕获长程依赖的问题,研究人员开始探索卷积神经网络(CNNs)在时序中的应用。
### 问题定义
令??=(???, ???, …, ????)∈?^??×??×?? 表示一个多元时间序列回看窗口批次,其中B为批次大小,L为输入序列长度,M为变量(通道)数量。我们的目标是预测未来时域??∈?^??×??×??,其中T为预测长度。为减轻分布偏移,我们首先对X应用可逆实例归一化(RevIN)[18],得到归一化输入???。
正如我们的结构范式所激励的,TMT框架由两个核心部分组成。
### 实验设置
为评估TMT模型的性能,我们在七个公共基准数据集上进行了实验:ETTh1、ETTh2、ETTm1、ETTm2、Weather、Electricity和Traffic。这些数据集广泛用于基准测试且公开可用。遵循标准实验协议,我们在所有数据集上评估了预测时域为{96, 192, 336, 720}的模型,同时将输入序列长度固定为512。所有实验均在NVIDIA GeForce RTX 3090 GPU上完成,使用GPT2。
### 结论
本文提出了Time Meets Text(TMT),一个旨在弥合时序表示与LLM派生原型表示的框架。TMT通过双路径协作架构解决模态鸿沟问题。结构依赖路径采用去噪注意力模块过滤噪声,随后通过GCN显式捕获跨通道依赖性。同时,多尺度语义融合路径利用小波变换(DWT)和融合注意力整合层次化时序信息。
### CRediT作者贡献声明
王渊源:原创稿件撰写、项目管理、方法论。
吕星锋:审稿与编辑、监督、资金获取。
张鑫宇:可视化、验证、形式化分析。
徐辉:监督、概念化。
### 利益冲突声明
作者声明他们不存在已知的竞争性财务利益或可能影响本文所述工作的个人关系。
### 致谢
本文受国家自然科学基金(62172143)、黑龙江省自然科学基金(PL2024F030)资助。
王渊源 | 吕星锋 | 张鑫宇 | 徐辉
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号