《Smart Agricultural Technology》:A review of visual occlusion resolution in agricultural environments: Algorithms, applications, and future trends
编辑推荐:
视觉遮挡降低了农业感知系统可用的几何与语义信息。这种信息丢失会限制自动化收获、精准田间管理与高通量表型监测的可靠执行。当代研究迅速引入深度学习、非模态感知(amodal perception)与三维(3D)重建技术以缓解这些限制。现有文献主要针对孤立的单作物应
视觉遮挡降低了农业感知系统可用的几何与语义信息。这种信息丢失会限制自动化收获、精准田间管理与高通量表型监测的可靠执行。当代研究迅速引入深度学习、非模态感知(amodal perception)与三维(3D)重建技术以缓解这些限制。现有文献主要针对孤立的单作物应用或特定算法增强。该领域缺乏全面系统的综合来映射遮挡解决方法的跨方法演化逻辑。本综述系统审视了农业视觉遮挡处理的最新进展。算法评估将方法分为五类:传统图像处理与特征工程、深度学习检测架构、非模态实例分割(amodal instance segmentation)、结合三维重建的空间推理(spatial reasoning with 3D reconstruction)以及交互式主动视觉(interactive active vision)。这一特定进展表明从被动局部观察向主动全局结构解构的转变。随后基于场景的剖析分析了六种关键领域(自动化收获、精准除草、表型分析、产量估计、自主导航和牲畜行为追踪)中不同的遮挡特征与核心操作矛盾。战略未来轨迹预测概述了研究重点,为农业环境中鲁棒感知系统设计与田间部署提供结构化参考。
- 1.
引言
计算机视觉是智慧农业的感知核心,提取形态、生理与环境特征以驱动关键操作,包括自动化收获、田间管理、表型监测和产量估计。农业视觉系统面临高度非结构化自然环境,交叉枝条、密集果实簇、缠绕藤蔓和波动光照共同导致成像过程中频繁且严重的视觉遮挡。这一现象降低检测与分割算法精度,剥夺下游决策模块完整几何与语义信息,仍是限制农业视觉系统从受控实验室向可靠田间部署过渡的主要挑战。视觉遮挡在农业感知中普遍存在,其表现和影响因操作场景而异。自动化收获中,枝叶或邻近物体遮挡目标果实,导致抓取点定位失败和机械臂路径规划受阻;精准除草受密集作物与杂草冠层导致的个体边界模糊影响,实时处理约束加剧像素级判别困难;作物表型分析中,上部叶片频繁遮挡下部器官,导致叶面积、病害覆盖度和小穗数等关键性状参数系统性丢失;产量估计依赖冠层表面图像推断三维空间真实果实数量,冠层遮挡与果实簇集在可见计数与实际计数间引入未校准的系统偏差;农业机械导航面临前装农具结构盲区、粉尘视觉退化和植被遮挡田界等多源复合遮挡威胁;牲畜行为分析受畜群拥挤、设施导致的视野碎片化和姿态相关自遮挡阻碍,维持个体身份连续性和行为完整性极具挑战。
计算机视觉在通用目标检测与实例分割中取得显著进展,卷积神经网络(CNN)如YOLO(You Only Look Once)系列、Faster R-CNN(Region-based CNN)和Mask R-CNN提升复杂背景下多尺度目标定位,视觉变换器(Vision Transformers)和Swin Transformers增强长距离空间依赖建模,为处理目标间视觉遮挡提供有用方法论基础。这些通用技术应用推动农业视觉遮挡处理快速迭代:早期研究采用形态学操作、颜色空间分割和可变形部件模型(Deformable Part Models, DPM)在受控条件下提取可见特征;深度学习方法随后通过注意力机制、知识蒸馏和精炼非极大值抑制(NMS)策略改善检测器对部分遮挡目标的响应;非模态实例分割利用非对称掩码损失(Asymmetric Mask Loss)和变换器(Transformer)架构估计被遮挡区域完整轮廓;三维重建和神经辐射场(NeRF)从多视图序列恢复整体几何形态,将视觉遮挡转化为空间几何分离任务;主动视觉和交互感知通过视点规划或机器人物理干预减轻严重视觉遮挡影响。当前研究呈现从二维像素推理到三维空间理解、从静态感知到动态主动视觉遮挡缓解的趋势,但多数研究仍聚焦特定作物和孤立算法改进,缺乏对不同技术路径潜在关联机制和算法分类的系统综述。
- 2.
文献计量分析
文献检索与筛选遵循PRISMA 2020框架,于2026年5月1日在Web of Science核心合集、ScienceDirect和IEEE Xplore中进行,覆盖2008年1月1日至今的出版物。检索获得876条记录,去重和筛选后最终纳入213项研究进行定性和文献计量综合。年度出版物数量在研究期间大幅增加:2008–2015年发表8项(3.8%),2016–2019年20项(9.4%),2020–2023年72项(33.8%),2024至最终检索日发表113项(53.1%),峰值在2025年(62项)。时间关键词分布与四个方法阶段广泛一致:2008–2015年主要关注形态学、颜色空间分割和手工特征提取;2016–2019年目标检测和卷积神经网络频率增加;2020–2023年更多研究考察实例分割、深度感知和非模态感知;2024年后的研究更关注变换器、三维重建、基础模型(foundation models)和主动感知。这些时期描述主题重点转移而非互斥技术阶段。
全球研究分布与机构合作分析显示,213项研究涉及37个国家330个机构的作者。中国贡献125项(58.7%),美国23项(10.8%),印度14项(6.6%),韩国7项(3.3%)。国际合作网络中,中国总连接强度最高(23),美国次之(15)。作者层面,J. Wang贡献14项,Y. Chen贡献8项(总被引399次),J. Li贡献8项(总被引128次)。最高产机构为华南农业大学、中国农业大学和农业农村部,分别贡献13、8和7项。期刊分布方面,Computers and Electronics in Agriculture收录最多(54项,25.4%),Agronomy(19项)和Agriculture(14项)次之。被引最高的是Slaughter等2008年关于自主机器人除草控制系统的研究(556次),其次为Wang等2019年关于地面机器视觉杂草检测的综述(455次)和Hasan等2021年深度学习杂草检测综述(312次)。文献计量模式表明农业遮挡研究自2020年以来迅速扩展,近期研究日益关注非模态感知、三维重建和主动感知。
- 3.
农业场景中的遮挡解决算法
农业遮挡方法已从传统可见线索处理扩展到深度学习检测、非模态分割、三维重建和主动感知五大类。传统和深度学习方法主要从可见证据识别目标;非模态感知和空间或三维方法推断隐藏形状、深度、拓扑或几何;主动和交互感知通过改变视点或修改场景获取进一步证据。在集成系统中,检测识别目标,重建估计隐藏结构,主动感知处理未解决遮挡。功能上,这些方法服务于三个角色:遮挡检测识别遮挡和前后关系;遮挡处理利用可见线索或替代视点缓解影响;遮挡重建估计隐藏几何或语义。以下分节详述这些框架。
3.1 传统图像处理与特征工程
在深度卷积神经网络主导前,视觉遮挡管理严重依赖手动特征工程和局部检测算子。核心范式从可见目标区域提取几何或颜色属性,利用结构先验知识推断被遮挡部分的形态和位置。代表技术包括颜色空间分割、形态学操作、圆形霍夫变换(Circular Hough Transform)和可变形部件模型。这些方法主要通过手工特征和几何算子实现遮挡检测和定位。
3.1.1 形态学几何拟合
早期农业视觉系统通过颜色空间阈值化(如YUV或RGB差分分量)缓解枝叶遮挡和果实重叠,结合形态学腐蚀膨胀分离粘连区域,圆形霍夫变换从可见轮廓弧估计目标几何。具体流程包括块同态滤波补偿光照变化、Otsu阈值化、标记控制分水岭变换和凸包操作隔离候选区域,支持向量机(SVM)分类纹理特征。类似方法应用于荔枝簇,通过限制对比度自适应直方图均衡化和红蓝颜色映射分割前景,利用霍夫和等面积圆区分孤立与重叠状态,三点圆定理几何提取个体。
3.1.2 可变形部件模型
可变形部件模型将目标表示为局部组件及其空间弹性约束的结构组合,利用可见部件匹配分数和变形推断整体目标存在概率。方法结合通用目标性度量和类别分类器自适应选择判别边界框,协同跟踪框架利用可变形组件生成初始局部滤波预测,部分配置模型(Part Configuration Model)引入遮挡模式层主动阻断错误传播,通过空间相互关系和加权聚类融合估计完整目标配置。
3.2 深度学习与检测架构
此类方法主要属于遮挡处理,通过增强特征提取和边界框定位缓解部分遮挡。深度卷积神经网络从标注数据自主提取层次语义特征,现代检测架构减少对人工设计算子的依赖。算法增强涵盖网络结构优化、注意力机制、特征对齐和边界框后处理。
3.2.1 知识蒸馏
低光照结合枝叶遮挡降低目标信噪比并扭曲拓扑结构。几何一致性特征对齐(KDFA)框架通过双流师生网络架构处理,拉普拉斯平滑正则化约束局部边缘几何特征,使学生网络从弱纹理线索改善坐标估计。遮挡增强蒸馏流程显式缓解密集枝叶导致的苹果漏检,利用Grounding DINO和Segment Anything Model构建重度遮挡数据集,多尺度知识蒸馏通过指数移动平均策略学习遮挡与无遮挡目标状态的对齐特征。
3.2.2 注意力机制
注意力机制通过动态重加权特征图通道或空间维度引导网络聚焦未遮挡有效像素区域。轻量级多类别检测框架在YOLOv5s中集成K-means++锚框选择和坐标注意力(CA),识别油茶果在叶、枝和相互遮挡下。升级YOLOv8解决无人机(UAV)菠萝影像中严重叶冠遮挡,CA捕获长距离上下文依赖自适应抑制密集果簇背景干扰。SE、CBAM、ECA和GAM等模块广泛应用于苹果、柑橘、番茄、葡萄和草莓等遮挡场景。
3.2.3 IoU损失函数
密集簇环境中预测边界框高度重叠,传统非极大值抑制(NMS)将高交并比(IoU)框视为冗余检测导致漏检。软非极大值抑制(Soft-NMS)引入连续高斯惩罚函数平滑降低重叠框置信度,改善相互遮挡下目标召回。高级几何损失函数如重叠IoU(OL-IoU)、广义IoU(GIoU)、距离IoU(DIoU)和完全IoU(CIoU)应用定位惩罚,提高遮挡目标定位精度。
3.3 非模态感知与实例分割
传统实例分割如Mask R-CNN主要分类可见目标像素执行模态分割,而农业机械臂通常需要被遮挡部分的完整体积和轮廓信息以确定安全抓取坐标。非模态实例分割估计不可见区域输出综合目标形状掩码,聚焦于遮挡重建。算法解决方案来自三个核心轨迹:损失函数设计、骨干网络增强和层次解耦。
3.3.1 非对称掩码损失
GDA-YOLO11作为专用非模态分割网络,采用非对称掩码损失函数(加权二值交叉熵),训练中对假阴性施加高于假阳性的惩罚,鼓励网络重建被遮挡轮廓。单阶段实例分割网络OccluInst结合RGB-D和CNN-变换器架构,协调双分支跨模态校准、自适应权重实例融合(AWIF)、自适应深度滤波(AFR)和材料感知(MA)模块,支持不同遮挡程度下的成熟度识别和空间定位。
3.3.2 边界不确定性估计
利用Swin Transformer作为骨干提取多尺度特征,自监督局部补全网络集成到沙漏结构执行边界不确定性估计,为形状重建提供先验。基于变换器的非模态分割算法使用仅模态训练数据重建不完整番茄形态,沙漏网络提供空间边界先验,生成对抗网络(GAN)利用判别器和对抗损失重建被遮挡区域。多尺度不确定性框架减少自监督单目深度估计中视觉遮挡引起的边缘深度模糊。视觉基础模型如Grounding DINO和SAM已用于农业图像标注,但其在严重农业遮挡中的证据有限。
3.3.3 层解耦网络
严重同质遮挡引起实例边缘语义混淆。双层卷积网络(BCNet)和三重协同网络(TCNet)将图像形成建模为多个重叠层组合,顶层图卷积网络(GCN)检测遮挡元素,底层GCN同时推断被遮挡对象。这种层次解耦机制原生分离遮挡者与被遮挡者的空间边界。BCNet密度估计网络集成空间和通道注意力模块提升计数精度,结合YOLOv5n和TCNet密度图回归处理高度密集农业簇。
3.4 空间推理与三维重建
农业收获机器人需要精确空间深度估计和三维结构获取以执行抓取操作。二维图像中枝叶遮挡严重降低语义信息,先进方法将视觉感知提升到三维空间,通过空间推理推断遮挡序列建立拓扑关系,或利用隐式三维重建从多视图恢复整体形态。
3.4.1 空间推理
空间关系图网络将目标实例抽象为节点,深度遮挡定义为有向边,图卷积网络(GCN)或图注意力网络(GAT)在节点间传递消息,前景遮挡特征沿有向边传播到背景被遮挡节点,澄清重叠区域像素归属。ViNet通过堆叠沙漏网络检测节点和空间关系,加权图优化推断完整藤蔓结构。简化YOLOv5s结合TSCD头和EIoU损失实现密集荔枝检测,YOLOv8与KNet语义分割集成用于番茄去叶茎叶柄精确定位。
3.4.2 三维重建
神经辐射场(NeRF)和三维高斯泼溅(3DGS)通过多视图重建缓解单视图遮挡限制。多视图序列建立基础植物架构,虚拟相机导航生成新视图合成以物理绕过前景枝叶。MSNeRF实现十视图高保真水稻重建,VRKGNet融合多视图分割先验执行精确实例分割。NeRF曲率数据校准柔性手指弯曲传感器用于苹果分级,SFM-NeRF提取三维点云用于表型参数,3DGS-Ag模型通过动态不透明度重置减少混叠。空间推理依赖检测分割精度,而NeRF和3DGS需充足视点覆盖和大量计算。
3.5 主动视觉与交互感知
被动感知算法仅从静态图像推断缺失信息,极端遮挡严重损害推理。主动视觉动态驱动相机探索替代空间视角,视点规划算法物理绕过结构障碍获取无遮挡目标形态;交互感知引入机械干预,机械臂物理位移密集枝叶暴露目标。主动视觉和物理干预代表物理遮挡处理,从源头消除遮挡。
3.5.1 视点规划
下一最佳视点(NBV)算法将相机视为移动代理,深度强化学习(DRL)评估当前视口遮挡水平输出相机运动动作,策略网络利用奖励函数识别正面重叠并主动引导相机横向移动绕过前景遮挡。基于Action Chunking with Transformer(ACT)的模仿学习框架研究专家演示调整六自由度相机姿态。MSDP-Net集成CBAM和相机运动空间定位主动避免遮挡。主动感知框架检测果柄和果实计算遮挡率,多次识别循环调整视点,果柄倾斜角引导末端执行器,严重遮挡下检测置信度提升超50%。主动视觉视点规划器迭代生成候选视点,评分函数选择高分视点引导机械臂,空间覆盖(SC)度量评估遮挡严重性。
3.5.2 物理干预
交互感知和物理机械臂干预将视觉与控制耦合,通过直接环境修改减少遮挡。神经架构同时输出视觉场景理解和交互运动命令,识别无法通过视点改变的严重遮挡后,机械臂推、分或分离结构障碍,暴露隐藏结构。后续检测分割在较少遮挡条件下执行。
- 4.
场景分析(略,依论文结构涵盖自动化收获、精准除草、表型分析、产量估计、自主导航和牲畜行为追踪中的遮挡特征与矛盾)
- 5.
挑战与未来方向(略,概述当前局限与未来研究重点)
- 6.
结论(略,总结全文)