基于索引低秩中等自注意力机制的高效交通标志识别轻量化模型IMSA-Net研究

【编辑推荐】针对自动驾驶系统中交通标志识别面临的图像模糊、光照变化及计算资源受限等挑战，研究人员提出集成索引低秩中等自注意力(Indexing-and-Low-Rank-Medium Self Attention)与特征增强抑制正则化(FESR)的轻量化模型IMSA-Net。该模型在ImageNet-1K数据集上实现81.7%准确率（较MobileFormer提升3%），参数量减少45.7%，并在德国GTSRB和中国交通标志库分别达到93.75%和92.97%的识别精度，为车载边缘设备提供了高效解决方案。

　　

在自动驾驶技术飞速发展的今天，准确识别交通标志成为保障行车安全的核心环节。然而现实场景中，高速移动导致的图像模糊、多变的光照条件、恶劣天气干扰，以及车载设备有限的计算资源，都给传统识别模型带来巨大挑战。现有卷积神经网络(CNN)虽在轻量化方面有所突破，但对复杂场景的适应性不足；而Transformer模型虽能捕捉长程依赖，却因庞大的参数量和二次方计算复杂度难以部署。如何在不牺牲精度的前提下实现高效识别，成为制约自动驾驶技术落地的关键瓶颈。

来自山东某高校的研究团队在《Journal of Visual Communication and Image Representation》发表论文，提出革命性的IMSA-Net模型。该模型通过创新的索引低秩中等自注意力机制(Indexing-and-Low-Rank-Medium Self Attention)和特征增强抑制正则化(FESR)技术，在参数量减少45.7%的情况下，不仅超越MobileFormer等主流轻量模型，更在德国交通标志基准(GTSRB)和中国交通标志库分别创下93.75%和92.97%的识别记录。这项研究为资源受限的车载系统提供了兼顾精度与效率的解决方案。

研究团队采用三项核心技术：首先通过图像分割实现键值对的"索引"筛选，减少冗余计算；其次引入低维中介矩阵替代传统高维权重矩阵，将计算复杂度降至线性级别；最后设计FESR模块，采用选择性阈值在特征提取初期强化关键特征，仅增加0.02M参数就带来8.42%的精度提升。实验采用ImageNet-1K和交通标志专用数据集验证，在RTX4090平台完成性能测试。

CNNs
分析指出传统CNN通过通道剪枝、深度可分离卷积等技术实现轻量化，但存在特征提取不全面的固有缺陷。相比之下，Transformer的全局注意力机制更适合复杂场景，但直接应用会导致计算爆炸。

IMSA-Net
模型采用多阶段网络结构，逐级提取图像特征。核心创新在于将空间融合(token mixer)与通道融合(channel mixer)结合，通过索引机制建立查询与键的宏观区域连接，配合低秩矩阵高效计算相似度。结构设计使模型在保持精度的同时，参数量控制在7.6M。

Experiments
在ImageNet-1K测试中，IMSA-Net以81.7%准确率刷新轻量模型纪录，较MobileFormer提升3%。专项测试显示其对运动模糊和光照变化具有强鲁棒性，在GTSRB和CCTSDB数据集的识别率分别达93.75%和92.97%，验证了其在真实场景的适用性。

Conclusion
研究证实IMSA-Net通过索引低秩注意力与特征增强的协同设计，成功解决了轻量化与高精度的矛盾。其创新性体现在：动态稀疏注意力适应输入变化，低秩近似降低计算负荷，FESR模块以极小参数代价保留关键特征。该模型为自动驾驶边缘计算提供了新范式，其方法论对医学影像分析等需轻量化的领域也具有借鉴价值。

值得注意的是，研究获得国家自然科学基金(61902431)和山东省自然科学基金(ZR2023MF041)支持，数据集来自Kaggle社区。作者团队中Junbi Xiao负责验证与资源协调，Qi Zhang主导方法论设计，Wenjuan Gong完成数据分析，Jianhang Liu提供资金支持，体现了产学研的紧密协作。这项成果标志着我国在自动驾驶核心算法领域取得重要突破。