《Smart Agricultural Technology》：ConTransformer: Integrating Local and Global Features for Accurate Identification of Rice Leaf Diseases
编辑推荐：
本文提出了一种名为ConTransformer的双通道模型，该模型结合了ConvNeXt与增强型Vision Transformer用于水稻叶部病害识别。研究人员将Vision Transformer中MLP模块的GELU激活函数替换为Swish门控机制（Sw
本文提出了一种名为ConTransformer的双通道模型，该模型结合了ConvNeXt与增强型Vision Transformer用于水稻叶部病害识别。研究人员将Vision Transformer中MLP模块的GELU激活函数替换为Swish门控机制（Swish-gated mechanism），以增强自适应特征选择能力。嵌入特征融合模块（feature fusion module）的ConTransformer能够更准确地捕获局部病灶细节和全局病害分布模式。该方法优于主流神经网络模型，在水稻病害数据集上达到了99.07%的识别准确率，并展现出强大的泛化能力。
一、研究背景与现存问题
水稻是全球重要的粮食作物，供养着超过一半的世界人口。然而，水稻种植常受到叶部病害如稻瘟病（rice blast）、纹枯病（sheath blight）和褐斑病（brown spot）的干扰，严重损害水稻生长发育并显著降低产量。因此，精准识别水稻病害对提升水稻生产至关重要。近年来，基于深度学习（deep learning）的自动化病害诊断在精准农业领域受到广泛关注，其中以卷积神经网络（CNN）和Transformer为主的识别方法已在作物病害识别中得到广泛应用并取得显著成效。然而，现有方法仍面临关键瓶颈：CNN擅长提取局部特征，但在建模长距离上下文信息方面能力不足，复杂农田环境限制了其精度；而纯Transformer模型虽能通过注意力机制建立长程依赖关系（long-range dependencies），却容易忽视细微病灶细节，对小尺度病变识别效果有限。此外，大多数现有的CNN-Transformer混合模型依赖简单的特征拼接或单向信息传递，无法有效处理水稻病害图像中小尺度病灶细节与大范围感染区域共存的内在特性，导致语义对齐失败和交互不充分等问题。
二、研究内容与结论
为解决上述挑战，研究人员提出了一种全新的模型——ConTransformer，其核心目标是融合ConvNeXt在局部特征提取方面的优势与Transformer在全局建模方面的专长。该模型并非ConvNeXt与Vision Transformer的简单组合，而是针对水稻病害特征专门设计：ConvNeXt分支通过全局响应归一化（Global Response Normalization，GRN）增强，专注于提取细粒度病灶边界和微妙纹理变化；增强型Vision Transformer配备Swish门控多层感知机（Swish-gated MLP），用于捕捉全局病害分布模式并抑制背景噪声。更重要的是，专用特征融合模块（feature fusion module）实现了局部与全局特征的适应性集成，达到更深层的语义交互而非简单堆叠。实验结果表明，ConTransformer在包含14,280张图像、涵盖七类（六种病害类别和一类健康类别）的水稻病害数据集上取得了99.07%的识别准确率，优于主流双通道模型，并在跨作物的大豆病害识别中达到92.78%的准确率，展现了强大的泛化能力。
三、关键技术方法
研究人员采用了以下关键技术方法：①ConvNeXt V2架构，融入全卷积掩码自编码器（Fully Convolutional Masked Autoencoder，FCMAE）框架和全局响应归一化（GRN）层，随机掩码60%输入图像并使用子流形稀疏卷积处理可见像素，以MSE损失进行重建；②增强型Vision Transformer，将MLP模块中的GELU激活函数替换为Swish门控机制，提升自适应特征筛选和噪声抑制能力；③特征融合模块（feature fusion module），建立双通道并行融合架构，实现ConvNeXt分支提取的局部纹理特征与Transformer分支提取的全局分布特征的深度语义交互。所有实验均在自建水稻病害数据集上进行，该数据集覆盖七类共14,280张图像。
四、研究结果
4.1 ConvNeXt V2架构设计
研究人员采用FCMAE框架，对输入图像随机掩码60%，利用子流形稀疏卷积仅处理可见像素以防止信息泄露，重建损失采用均方误差（MSE）。为量化特征学习质量，提出特征余弦距离分析方法，公式为D = 1/c2 Σ? Σ? (1 - cos(X?, X?))/2，其中X?表示第i通道的特征图，重塑为HW维向量后计算通道间平均成对余弦距离，距离越高表示特征越多样，越低则表示特征冗余。GRN层包含全局特征聚合（??(X): ?^(H×W×C) → ?^C）、响应归一化（??(‖X?‖): ? → ‖X?‖ / Σ?‖X?‖ ∈ ?）等步骤，有效缓解特征坍塌并增强通道间竞争。
4.2 增强型Vision Transformer模块
研究人员设计了增强型Vision Transformer模块，将传统MLP中的GELU激活函数替换为Swish门控机制，使网络能够根据输入特征动态调整信息流动，提升对多样化分布病害特征的建模能力并减少噪声干扰。该模块通过Patch Merging和下采样操作保持多尺度特征表征，并结合优化后的Encoder结构强化全局病害模式建模和长程依赖关系表示。
4.3 双通道并行融合架构
研究人员建立了双通道并行融合架构，ConvNeXt通道通过GRN和深度卷积捕捉细粒度局部纹理和微小病灶细节，增强型Transformer通道则通过Patch Merging和优化Encoder强化全局病害模式建模。专用特征融合模块替代简单拼接，实现局部与全局特征的适应性集成和深层语义交互，有效解决语义不对齐问题。
4.4 消融实验与性能对比
ConTransformer在水稻病害数据集上达到99.07%的识别准确率，优于主流通用双通道模型。在跨作物的大豆病害识别任务中取得92.78%的准确率，验证了模型的强泛化能力。各组件（GRN、Swish门控MLP、特征融合模块）的消融实验证实了每项创新设计的有效性。
五、讨论与结论
研究人员指出，所提出的ConTransformer模型通过任务驱动设计从根本上区别于现有混合模型，实现了更有效的多尺度特征表征。讨论部分强调，ConvNeXt V2的GRN机制有助于保留通常被传统CNN削弱的细微病灶边界和纹理变化；Vision Transformer分支配备Swish门控MLP提升了复杂田间背景下的自适应特征过滤和噪声抑制能力；专用融合模块减少了局部与全局表征之间的语义错位，实现了更有效的跨分支交互。
研究结论：本文提出的ConTransformer双通道模型结合ConvNeXt与增强型Vision Transformer，通过替换MLP中的GELU为Swish门控机制增强自适应特征选择能力，嵌入特征融合模块更精确地捕获局部病灶细节和全局病害分布模式，在水稻病害数据集上达到99.07%的准确率，并在跨作物大豆病害识别中展现强大泛化能力，为精准农业中的作物病害自动诊断提供了高效解决方案。
