Max-Min池化和Squeeze Excitation轻量级双向Mamba模型在图像分类中的应用

《Engineering Applications of Artificial Intelligence》：Max–Min Pooling and Squeeze Excitation Lightweight Bidirectional Mamba for image classification

提出基于Max-Min池化、轻量级双向Mamba架构和轴对称剪裁激励的MMPSELMamba方法，解决Transformer的高计算复杂度问题。通过Max和Min池化协同保留高激活前景特征和低激活上下文细节，结合轻量级Mamba架构实现线性长程依赖建模，以及多尺度特征融合单元优化计算效率，显著降低参数量和计算量（较SeaFormer减少36%参数和16%计算量），同时保持竞争性分类精度，适用于边缘设备部署。

　　在当前深度学习技术迅猛发展的背景下，图像分类任务面临着越来越多的挑战。传统的卷积神经网络（CNN）在图像识别领域取得了显著的成果，其局部感受野、权重共享机制以及强大的特征提取能力使其成为各种视觉任务的基础模型。然而，随着网络深度的增加，CNN在处理复杂场景时暴露出了诸多局限性，例如局部感受野的限制、高计算成本以及参数共享带来的约束。这些问题在资源受限的环境下尤为突出，限制了CNN在移动设备、嵌入式系统等实际应用中的广泛部署。

为了解决这些挑战，研究者们提出了多种创新方法，如残差网络（ResNet）、图卷积网络（GCNs）等。这些方法通过引入残差连接、扩展卷积操作至非欧几里得空间等方式，逐步改善了CNN的性能。然而，它们仍然依赖于局部邻域信息，难以有效捕捉跨越远距离区域的目标特征。因此，探索能够同时处理全局依赖关系和局部细节的新型模型结构成为了一个重要的研究方向。

Transformer模型的出现为这一问题提供了新的思路。其自注意力机制能够捕捉图像中所有位置之间的关系，不受空间距离的限制，从而更好地理解像素间的长距离依赖关系。这种机制显著提升了模型的全局语义理解能力，特别是在处理复杂背景或大规模对象时表现出色。然而，传统的自注意力机制需要对特征图中的所有像素对进行建模，导致计算成本高昂，难以在资源受限的环境中高效运行。为此，研究者们提出了多种轻量化Transformer架构，如MobileNet、SENet、EfficientNet等，通过深度可分离卷积、通道剪枝、量化等技术手段降低模型的计算复杂度和参数数量。

尽管这些轻量化方法在一定程度上解决了计算效率问题，但在某些需要高计算精度的任务中，它们往往在效率与性能之间难以取得平衡。因此，设计一种能够在资源受限环境下实现高效性能，同时保留关键特征的轻量化模型结构显得尤为重要。在这一背景下，本文提出了一种全新的图像分类方法——Max–Min Pooling and Squeeze Excitation Lightweight Bidirectional Mamba（MMPSELMamba），旨在有效解决传统Transformer模型在计算复杂度、执行速度和内存消耗方面的瓶颈。

MMPSELMamba的核心创新点在于其结合了多种先进的图像处理技术和轻量化机制。首先，该方法引入了一种混合的Max–Min池化策略，结合了Max Pooling和Min Pooling的优势。Max Pooling通过保留最强激活的特征，能够有效提取图像中的显著对象；而Min Pooling则通过保留低强度的上下文信息，捕捉图像的背景细节。这种策略能够保留图像中的多尺度空间特征，特别适用于需要精细识别的场景，如细粒度分类任务。通过这种方式，MMPSELMamba在不牺牲关键信息的前提下，有效减少了特征丢失的风险。

其次，本文设计了一种新颖的轴向压缩增强模块（Axial Squeeze Excitation Module）。该模块能够在垂直和水平两个维度上压缩冗余特征，同时增强具有判别性的特征精炼过程。这一设计不仅提高了特征的表达能力，还进一步降低了模型的计算复杂度，使得MMPSELMamba能够在保持高精度的同时，实现更高效的特征处理。

此外，MMPSELMamba采用了基于状态空间模型（SSM）的双向Mamba架构（ExtBiMamba）来替代传统的多头自注意力机制（MHSA）。Mamba作为一种新型的序列建模架构，其线性计算复杂度显著优于传统的Transformer模型，能够在处理长距离依赖关系时实现更高的效率。本文系统地研究并比较了两种BiMamba部署策略——内部BiMamba（InnBiMamba）和外部BiMamba（ExtBiMamba）——对图像分类性能的影响。实验结果表明，ExtBiMamba在分类任务中表现更优，能够更有效地捕捉全局信息。

为了进一步优化特征融合过程，本文设计了一种多尺度集成单元，结合了上采样、拼接和下采样操作。该单元能够在不同尺度上进行特征融合，从而提升模型的特征表达能力和分类精度。同时，它通过减少计算开销，使得整个模型在保持高性能的同时更加轻量化。

MMPSELMamba特别适用于资源受限的环境，如边缘设备和移动视觉系统。通过集成深度可分离卷积和轻量级的SSM操作，该模型在保持较高分类精度的前提下，实现了显著的参数减少和计算负载降低。与SeaFormer相比，MMPSELMamba的参数数量减少了36%，计算负载降低了16%。这一优化使得MMPSELMamba能够在实际应用中更高效地运行，尤其是在需要实时处理和低功耗的场景中。

为了验证MMPSELMamba的有效性，本文在多个公开数据集上进行了广泛的实验。其中包括NWPU-RESISC45、Caltech-256和Food-101等广泛使用的场景和对象分类数据集。这些数据集涵盖了丰富的图像类别和分辨率，能够全面评估模型的性能。实验结果表明，MMPSELMamba在这些数据集上的分类准确率与现有方法相当，同时在计算效率和参数规模方面具有明显优势。此外，通过混淆矩阵和热力图可视化分析，进一步验证了MMPSELMamba在细粒度分类任务中的优越表现。

MMPSELMamba的提出不仅解决了传统Transformer模型在计算复杂度和执行速度方面的不足，还通过引入混合池化策略和多尺度集成单元，提升了模型对细粒度特征的捕捉能力。这些改进使得MMPSELMamba能够在资源受限的环境下实现高效的图像分类任务，为边缘计算和移动视觉系统提供了新的解决方案。

本文的研究成果具有重要的实际应用价值。MMPSELMamba在自主无人机、嵌入式监控等场景中展现出良好的部署潜力。这些场景通常需要在低功耗、小尺寸的设备上进行实时图像处理，而MMPSELMamba的轻量化设计和高效性能正好满足了这些需求。此外，该方法还可以应用于其他需要高精度和低计算负载的图像处理任务，如图像检索、目标检测和视频分析等。

从技术角度来看，MMPSELMamba的成功在于其对多种先进技术和方法的综合应用。混合池化策略、轴向压缩增强模块、双向Mamba架构以及多尺度集成单元的结合，使得该模型在保持高精度的同时，显著降低了计算复杂度和参数数量。这种多技术融合的设计思路为未来的轻量化模型研究提供了新的方向。

此外，本文还强调了在实际工程应用中对模型轻量化和效率优化的重要性。随着人工智能技术的不断进步，越来越多的应用场景对模型的计算效率和资源占用提出了更高的要求。MMPSELMamba的提出正是为了满足这些需求，使其能够在资源受限的环境中实现高效的图像分类任务。

总之，MMPSELMamba作为一种新型的轻量化图像分类方法，具有重要的理论价值和实际应用前景。其混合池化策略、轴向压缩增强模块和双向Mamba架构的结合，不仅解决了传统Transformer模型在计算复杂度和执行速度方面的瓶颈，还提升了模型对细粒度特征的捕捉能力。通过在多个数据集上的实验验证，本文展示了MMPSELMamba在实际场景中的广泛应用潜力，为未来的图像分类研究提供了新的思路和方法。