基于跨视图校正的时序预测:大语言模型多模态对齐新范式

【字体: 时间:2025年07月07日 来源:Knowledge-Based Systems 7.2

编辑推荐:

  为解决大语言模型(LLMs)在时序预测中存在的模态鸿沟问题,研究人员提出跨视图校正(CVC)框架,通过双分支架构整合图网络提示学习与加权注意力机制,结合对比校正机制实现时序-文本特征对齐。实验表明该方法在长/短期预测任务中均超越SOTA,代码已开源。该研究为LLMs跨模态应用提供了新思路。

  

时序预测是交通、气候、能源等领域的核心需求,但传统深度学习方法依赖领域知识且泛化性有限。大语言模型(LLMs)虽具强大推理能力,却面临时序数据连续信号与文本离散符号间的模态鸿沟——包括特征分布差异、语义抽象层级错位等。现有方法如S2IP-LLM和Time-LLM尝试通过提示学习或表征重编程对齐模态,但统计先验导致的特征冗余仍导致预测性能下降。

厦门大学团队在《Knowledge-Based Systems》发表的研究提出跨视图校正(CVC)框架,创新性地采用双分支LLM架构:一方面通过图网络构建语义节点作为动态提示,另一方面设计加权注意力机制融合时频特征。核心创新在于引入对比校正机制,通过比较双分支的中间表征与输出结果,在共享表征空间中消除冗余干扰。实验证明CVC在长/短周期预测任务中MSE平均降低12.7%,零样本场景下仍保持优越性能。

关键技术包括:1) 小波分解处理多尺度信号冲突;2) 图网络动态选择语义提示;3) 注意力权重自适应生成;4) 双分支对比校正机制。使用GPT-2前六层作为基础架构,在ETT、Weather等基准数据集验证。

【时间序列预测】
突破传统统计方法与单模态深度学习局限,首次实现LLMs对复杂时序模式的可解释建模。

【模态对齐策略】
图提示分支捕获拓扑关系,注意力分支聚焦局部特征,二者互补形成完整语义映射。消融实验显示双策略协同使预测误差降低23.4%。

【对比校正机制】
通过最大化分支间互信息,冗余特征减少41%,关键特征权重提升至0.82±0.03。可视化显示校正后时序-文本特征余弦相似度达0.91。

该研究开创性地将计算机视觉中的对比学习思想引入时序预测,为解决LLMs跨模态应用的共性问题提供普适框架。基金信息显示研究受国家自然科学基金支持,方法论可扩展至医疗信号分析等领域。未来工作将探索多模态联合预训练路径,进一步突破模态壁垒。

相关新闻
生物通微信公众号
微信
新浪微博
  • 急聘职位
  • 高薪职位

知名企业招聘

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号