LiteMapNet:一种轻量级的在线高精度地图绘制技术,采用注意力机制进行头部神经网络剪枝

《Annals of the New York Academy of Sciences》:LiteMapNet: Lightweight Online High-Definition Mapping With Attention Head Pruning

【字体: 大 中 小 】 时间:2026年04月10日 来源:Annals of the New York Academy of Sciences 4.8

编辑推荐:

  LiteMapNet提出基于轻量级Transformer的在线HD地图构建框架,通过两阶段结构化注意力头剪枝减少计算量,在nuScenes和Argoverse 2数据集上实现1.5倍加速,精度损失低于1%。

  

摘要

高清晰度(HD)地图为自动驾驶中的感知和规划提供了精确的几何先验;然而,现有的在线HD地图构建模型通常计算要求较高,这限制了它们在资源有限的车内平台上的实时部署。为了解决这个问题,我们提出了LiteMapNet,这是一个基于Transformer的轻量级框架,通过消除自注意力(self-attention)和交叉注意力(cross-attention)模块中的冗余来加速在线HD地图的构建。LiteMapNet采用了一个训练后的两阶段结构化注意力头剪枝流程。在第一阶段,我们使用Fisher信息矩阵来估计注意力头的重要性,并在指定的计算和延迟预算下剪除对地图精度影响最小的冗余头。在第二阶段,我们引入了可学习的连续掩码变量,并通过轻量级校准来优化它们,从而在提高稳定性和泛化能力的同时不增加额外的推理时间开销。在nuScenes和Argoverse 2上的实验表明,LiteMapNet仅使用一个小规模的校准集就大幅降低了计算成本和浮点运算量。与未剪枝的MapQR基线相比,LiteMapNet在4× NVIDIA H100 GPU服务器上的推理速度提升了1.5倍,使得在线HD地图模型能够在资源有限的环境中高效部署。

图形摘要

本文提出了LiteMapNet,一个用于在线高精度地图构建的轻量级框架。我们引入了一种训练后的两阶段结构化注意力头剪枝策略,用于自注意力和交叉注意力。该方法减少了浮点运算(FLOPs)和开销,同时将精度损失控制在1%以下,并实现了高达1.5倍的推理速度提升。这项工作为自动驾驶中的在线高精度地图生成提供了一个有效的、以部署为导向的解决方案。

利益冲突

作者声明他们没有利益冲突。

数据可用性声明

支持本研究结果的数据来自两个公开可用的自动驾驶数据集,可以从它们的官方网站获取。

同行评审

为了保证透明度,与本文相关的同行评审文件可在https://doi.org/10.1111/nyas.70261获取。

第三轮评审
编辑决定函 2026/02/27
编辑1的建议 2026/02/27
第二轮评审
编辑决定函 2026/02/12
编辑1的建议 2026/02/12
评审员2的报告 2026/02/12
评审员1的报告 2026/02/11
第一轮评审
编辑决定函 2026/01/31
编辑1的建议 2026/01/31
评审员1的报告 2026/01/31
评审员2的报告 2026/01/27

相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号