
-
生物通官微
陪你抓住生命科技
跳动的脉搏
LiteMapNet:一种轻量级的在线高精度地图绘制技术,采用注意力机制进行头部神经网络剪枝
《Annals of the New York Academy of Sciences》:LiteMapNet: Lightweight Online High-Definition Mapping With Attention Head Pruning
【字体: 大 中 小 】 时间:2026年04月10日 来源:Annals of the New York Academy of Sciences 4.8
编辑推荐:
LiteMapNet提出基于轻量级Transformer的在线HD地图构建框架,通过两阶段结构化注意力头剪枝减少计算量,在nuScenes和Argoverse 2数据集上实现1.5倍加速,精度损失低于1%。
高清晰度(HD)地图为自动驾驶中的感知和规划提供了精确的几何先验;然而,现有的在线HD地图构建模型通常计算要求较高,这限制了它们在资源有限的车内平台上的实时部署。为了解决这个问题,我们提出了LiteMapNet,这是一个基于Transformer的轻量级框架,通过消除自注意力(self-attention)和交叉注意力(cross-attention)模块中的冗余来加速在线HD地图的构建。LiteMapNet采用了一个训练后的两阶段结构化注意力头剪枝流程。在第一阶段,我们使用Fisher信息矩阵来估计注意力头的重要性,并在指定的计算和延迟预算下剪除对地图精度影响最小的冗余头。在第二阶段,我们引入了可学习的连续掩码变量,并通过轻量级校准来优化它们,从而在提高稳定性和泛化能力的同时不增加额外的推理时间开销。在nuScenes和Argoverse 2上的实验表明,LiteMapNet仅使用一个小规模的校准集就大幅降低了计算成本和浮点运算量。与未剪枝的MapQR基线相比,LiteMapNet在4× NVIDIA H100 GPU服务器上的推理速度提升了1.5倍,使得在线HD地图模型能够在资源有限的环境中高效部署。
作者声明他们没有利益冲突。
支持本研究结果的数据来自两个公开可用的自动驾驶数据集,可以从它们的官方网站获取。
为了保证透明度,与本文相关的同行评审文件可在https://doi.org/10.1111/nyas.70261获取。