通过图神经摘要技术解决图增强型大规模语言模型中的信息瓶颈问题

《Information Fusion》:Addressing Information Bottlenecks in Graph Augmented Large Language Models via Graph Neural Summarization

【字体: 时间:2025年10月02日 来源:Information Fusion 15.5

编辑推荐:

  目标跟踪的改进 ensemble 方法,结合多个神经辅助卡尔曼滤波器与注意力机制,动态融合不同运动模型的状态估计,提升机动目标跟踪精度和鲁棒性,实验验证其优于传统IMM及数据驱动方法。

  在目标跟踪领域,目标状态估计是一个关键任务,它直接关系到跟踪系统的性能和可靠性。传统上,目标跟踪依赖于数学模型来表示目标随时间变化的动态特性,例如卡尔曼滤波器(Kalman Filter, KF)和其非线性扩展形式,如无迹卡尔曼滤波器(Unscented Kalman Filter, UKF)和粒子滤波器(Particle Filter, PF)。这些方法在处理目标动态特性明确的情况下表现良好,但在面对目标的非线性运动、不确定性和突变行为时,其性能往往会受到显著影响。因此,研究者们开始探索结合深度学习与传统滤波方法的混合模型,以提高跟踪系统的鲁棒性和适应性。

深度学习,尤其是循环神经网络(Recurrent Neural Networks, RNN),如长短期记忆网络(Long Short-Term Memory, LSTM)和门控循环单元(Gated Recurrent Unit, GRU),在处理时间序列数据方面展现出卓越的能力。这些网络能够学习目标状态随时间的变化规律,并在目标运动模式变化时提供更灵活的预测。基于这一优势,研究者们提出了一系列结合深度学习与卡尔曼滤波的跟踪方法,如DeepMTT和TrMTT,它们利用LSTM和Transformer架构来分析雷达观测数据,以改进状态估计。然而,这些方法在实际应用中仍存在一定的局限性,如依赖滑动窗口缓冲、难以实时处理等。

为了解决这些问题,我们提出了一种新的混合模型跟踪框架,称为KalmanNet。该框架将多个神经网络辅助的卡尔曼滤波器(Neural-Aided Kalman Filters)集成在一个多模型系统中,类似于传统的交互式多模型滤波器(Interactive Multiple Model, IMM)。每个KalmanNet使用不同的运动模型进行跟踪,通过一个RNN融合它们的状态估计,RNN能够根据目标动态特性自适应地加权和组合这些预测结果。这种融合机制使得系统能够更有效地建模复杂的运动模式,并在跟踪突变目标时表现出更低的估计偏差和方差。

为了提高跟踪结果的可解释性,我们引入了一种基于创新的注意力机制,这种机制受到传统模型驱动跟踪算法的启发,特别是IMM框架中的模式可能性计算。该机制有助于识别目标的运动动态,并提高系统对传感器噪声、分布外数据和缺失测量的鲁棒性。实验结果表明,该注意力机制显著提升了跟踪性能,使得系统在不同场景下具有更强的适应能力。

在本研究中,我们进一步改进了KalmanNet的架构,并设计了一种新的注意力机制,使得系统能够更有效地融合多个卡尔曼滤波器的状态估计。我们构建了一个包含多个运动模型的KalmanNet集合,并通过RNN进行融合,其中每个模型专注于特定的运动模式。为了处理多任务学习(Multi-Task Learning, MTL)问题,我们将目标运动模式估计作为辅助任务,从而减少过拟合。此外,我们还引入了一种基于创新的注意力机制,它在融合状态估计时能够强调最可能的运动模型,使得系统在面对不确定性和分布外数据时具有更强的鲁棒性。

实验结果表明,我们提出的AttEnsKNets方法在跟踪性能上优于传统的IMM滤波器和其他混合模型方法。在多个指标上,包括均方根误差(Root Mean Squared Error, RMSE)和准确率(Accuracy, ACC),AttEnsKNets都表现出了更高的性能。此外,该方法在传感器噪声和缺失测量情况下也表现出更强的鲁棒性,这使得它在实际应用中更具优势。

我们的研究还评估了AttEnsKNets在不同场景下的表现,包括高噪声环境、分布外目标和不同检测概率下的目标跟踪。实验结果表明,AttEnsKNets在这些条件下均能保持良好的跟踪性能,尤其是在高噪声和分布外目标的情况下,其表现优于其他方法。这表明该方法不仅能够处理目标的突变运动,还能够在复杂和不确定的环境中保持稳定和准确。

在本研究中,我们提出了一种结合深度学习与传统卡尔曼滤波器的混合跟踪框架,旨在解决传统方法在处理突变目标时的性能退化问题。通过引入基于创新的注意力机制,我们使得系统在跟踪过程中能够动态地适应目标的运动模式,从而提高跟踪的鲁棒性和准确性。此外,我们还设计了一种多任务学习的损失函数,使得系统能够在预测状态估计的同时,有效地识别目标的运动模式。

实验结果表明,AttEnsKNets在多个指标上均优于其他方法,包括RMSE和ACC。特别是在高噪声和分布外目标的情况下,其性能表现尤为突出。这表明该方法在复杂和不确定的环境中具有更强的适应能力。此外,我们还发现,AttEnsKNets在处理缺失测量时也表现出更高的鲁棒性,这使得它在实际应用中更具优势。

综上所述,本研究提出了一种新的混合模型跟踪框架,通过引入基于创新的注意力机制和多任务学习策略,显著提高了跟踪性能和鲁棒性。该方法不仅能够有效处理目标的突变运动,还能够在高噪声和分布外目标的环境下保持稳定和准确。这为未来的跟踪系统设计提供了新的思路和方法,具有重要的应用价值。
相关新闻
生物通微信公众号
微信
新浪微博
  • 急聘职位
  • 高薪职位

知名企业招聘

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号