SAMIRO：利用预训练模型作为“预言机”的空间注意力互信息正则化方法，用于车道检测

《Pattern Recognition Letters》：SAMIRO: Spatial Attention Mutual Information Regularization with a pre-trained model as Oracle for lane detection

提出SAMIRO框架，通过空间注意机制和基于预训练模型的互信息正则化，有效提升车道检测模型在复杂场景（如光照变化、遮挡）下的泛化能力，实验表明在CULane、TuSimple和LLAMAS数据集上显著优于基线方法。

　　车道检测是自动驾驶系统中的一项核心任务，它使得车辆能够准确识别道路上的车道标记，从而确保行驶安全。然而，实现精确的车道检测仍然面临诸多挑战，例如背景杂乱、光照变化以及遮挡等问题。这些问题可能导致模型在复杂环境下表现不佳，甚至引发事故。因此，构建一个可靠且稳健的车道感知系统对于自动驾驶技术的发展至关重要。

当前最先进的车道检测方法主要分为两大类。第一类方法专注于设计额外的模块，以增强对不规则车道特征的识别能力。例如，RESA（Recurrent Feature-Shift Aggregator）通过在特征图的行和列方向上引入传播机制，增强了车道特征的表示能力。虽然这种方法在某些情况下表现良好，但其需要额外的模块，可能会导致计算复杂性增加，从而在模型精度与计算效率之间产生权衡。第二类方法则通过改进训练方案来提升特征表示能力，例如CLLD（Contrastive Learning for Lane Detection）采用自监督学习（SSL）技术，利用不同图像块来丰富模型所学习的特征表示。这种方法无需引入额外模块，但SSL在车道检测任务中的应用仍处于探索阶段，其对模型性能的影响尚未被充分研究。尽管近年来取得了诸多进展，但车道检测在面对多样化的道路环境时，依然存在泛化能力不足的问题。

为了解决上述挑战，本文提出了一种名为SAMIRO（Spatial Attention Mutual Information Regularization with a pre-trained model as an Oracle）的新方法。SAMIRO基于一种用于领域泛化的正则化方法MIRO，旨在通过持续的知识转移，将预训练模型所学习的领域无关知识有效地传递到车道检测模型中。这种方法能够在不依赖额外模块的前提下，提升模型在复杂环境下的检测性能。通过在多个基准数据集上的实验，本文展示了SAMIRO在提升车道检测模型泛化能力方面的显著效果。

SAMIRO主要包括两个关键组成部分：（1）空间注意力机制，（2）与预训练模型作为“Oracle”相结合的互信息正则化方法。空间注意力机制能够从预训练模型中提取分层的空间特征，以帮助车道检测模型更好地识别车道。互信息正则化方法则通过数据驱动的方式，确保车道检测模型所学习的特征表示与预训练模型的领域无关知识保持一致。这种方法不仅提升了模型的泛化能力，还有效减少了训练过程中可能出现的不稳定问题。

在训练过程中，SAMIRO通过引入ReLU函数对对数正则化项进行优化，从而确保损失函数的稳定性，并提升模型训练的效率。同时，考虑到预训练模型与目标模型在结构上的差异，可能会导致特征图的尺度不一致，进而影响知识转移的效果。为此，本文设计了一种新的损失函数，用于最小化两种模型之间的尺度差异，以实现特征的规范化传递。

实验结果显示，SAMIRO在多个车道检测模型上均表现出良好的性能提升。例如，在使用RESA与ResNet34作为基础模型时，SAMIRO将F1得分提升了0.69%；而在使用CLRerNet与DLA34作为基础模型时，其F1得分达到了81.64%，创下新的基准。此外，在Tusimple数据集上，SAMIRO在使用CLRNet与ResNet50作为基础模型时，将准确率提升至96.89%，显示出其在高速公路环境下的优势。在LLAMAS数据集上，SAMIRO同样取得了显著的性能提升，特别是在夜间和阴影等复杂场景中，表现优于其他方法。

为了进一步验证SAMIRO的有效性，本文还进行了消融实验，分析了各个组件对模型性能的影响。实验表明，仅使用SAMIRO损失函数即可取得良好的效果，而结合规范化组件则能进一步提升性能。在不同数据集和模型架构下，SAMIRO均能保持稳定的表现，说明其具有较强的泛化能力和灵活性。

总体而言，SAMIRO是一种高效且稳健的车道检测方法，能够有效应对光照变化、遮挡以及背景杂乱等问题。通过将预训练模型的领域无关知识与车道检测模型结合，SAMIRO在不增加额外计算负担的情况下，显著提升了检测精度。此外，其插件式的设计使得该方法可以轻松应用于多种模型架构，从而为自动驾驶系统的实际部署提供了新的思路。未来，随着自动驾驶技术的不断发展，SAMIRO有望在更广泛的车道检测场景中发挥重要作用，尤其是在复杂和多变的交通环境中。