《Frontiers in Plant Science》:A review: research progress on intelligent technologies for orchard yield monitoring
准确的产量估计和作物负荷监测对于精准果园管理至关重要,支撑着精准施肥、修剪、疏花疏果、收获规划和营销决策。然而,由于商业果园具有严重的树冠遮挡、果实重叠、异质性树冠结构、变化的光照和复杂背景等特点,可靠的原位监测仍然具有挑战性。本综述综合了多模态传感和深度学习在果园产量估计方面的进展,将该范式分解为中间的水果计数或作物负荷监测步骤以及补充的光谱质量评估维度。首先,总结了与产量相关的指标,包括直接表型特征,如果实数量、大小、体积和空间分布,以及间接的结构和生理代理指标,如树冠体积、植被指数、开花强度和光谱成熟度属性。其次,综述了代表性的传感设备和搭载平台,包括红绿蓝(RGB)相机、红绿蓝-深度(RGB-D)传感器、光探测与测距(LiDAR)、高光谱和多光谱系统、无人地面车辆(UGV)和无人机(UAV)。第三,讨论了估计方法的演变,从传统图像处理和机器学习到目标检测、实例分割、多目标跟踪、点云分析、遥感回归和多模态融合。本综述表明,没有单一传感器或算法能够满足所有果园监测需求。地面视觉和深度传感更适合于精细尺度的水果计数和尺寸测量,而UAV和光谱传感在区域产量制图和增强质量评估方面更具优势。未来研究应强调遮挡感知、稳健的跨环境泛化、轻量级边缘部署、标准化基准以及用于可操作作物负荷管理的集成数量-质量监测框架。
2 文献检索与筛选方法
为确保全面系统地综合当代进展,研究人员在主要学术数据库中执行了严格的文献检索协议,主要包括Web of Science(WoS)、Scopus和Google Scholar。与深度学习及多模态传感技术在农业工程中爆炸性增长的趋势一致,检索时间范围定为2016年1月至2026年3月。检索策略采用布尔组合关键词,涵盖三个核心维度:目标任务(“果园产量估计”、“作物负荷估计”、“水果检测”、“原位质量增强产量”)、感知硬件(“UAV”、“果园机器人”、“LiDAR”、“高光谱”)和算法范式(“多目标跟踪”、“深度学习”、“实例分割”)。初始检索记录经严格纳入和排除标准筛选。纳入标准要求研究必须:(1)明确部署在真实开放果园场景中;(2)直接涉及绝对果实量化、作物负荷估计或质量增强产量预测的方法;(3)提出或评估特定感知传感器、算法架构或采集平台;(4)为以英文发表为主的同行评审文章。排除标准系统过滤了:(1)温室蔬菜或结构化行栽作物研究;(2)采后包装分级或静态传送带评估;(3)纯农学或生理学研究且缺乏工程感知框架;(4)重复发表、重复数据集或非同行评审预印本。详细的逐步检索和筛选流程见图1。
3 与产量相关的指标和评估指标
果园精准产量估计不仅依赖于传感设备和检测算法,还需要清晰理解与产量相关的生物学指标以及科学评估框架。本综述进一步将直接和间接产量相关指标与传感设备、算法路径和工程部署指标联系起来。它涉及直接产量相关性状的感知、间接代理指标的集成,以及从检测精度到部署可行性的模型性能评估。因此,建立结构化的指标体系对于将监测目标与传感模态、算法方法和实际应用场景联系起来至关重要。
3.1 直接产量相关指标
直接产量相关指标是指直接与果实数量和可收获产量相关的变量,主要包括果实数量、果实大小、果实体积和树冠内果实空间分布。果实数量是最直观且广泛使用的变量,为树、行或果园尺度的作物负荷评估提供基础。然而,仅靠果实计数通常不足以准确估计产量,因为总产量由果实数量和单个果实质量共同决定。果实大小指标(如果实直径、高度、投影面积和形状指数)为估计单果质量提供重要信息。类似地,果实体积是用于质量反演的更直接几何描述符,在需要超越计数进行定量生物量预测时尤具价值。在基于机器视觉的系统中,结合果实检测、尺寸估计和体积反演已成为提高估计精度的主要技术路径。此外,树冠内果实空间分布也是一个重要直接指标,影响可见性、采样代表性以及检测和计数算法的鲁棒性。
3.2 间接产量相关指标
除了直接果实级别性状外,果园产量还可以从反映树冠结构、生理状态或繁殖潜力的间接指标中推断出来,主要包括树冠体积、植被指数、光谱成熟度代理指标和开花强度。树冠体积是代表性结构指标之一,反映树势、冠层结构和光截获能力,常与结果潜力和生物量积累相关,通常从RGB-D数据、LiDAR点云或UAV三维重建中导出。植被指数(如归一化差异植被指数NDVI等)用于描述冠层绿度、活力和光合活性,在基于UAV或遥感的产量估计中尤为有用。开花强度是重要的早季指标,与潜在坐果和后续产量形成密切相关。光谱成熟度代理指标在果实发育和成熟过程中,通过果皮色素、水分、可溶性固形物、干物质和内部结构的变化,在可见光、近红外和短波红外波段改变光学响应,可用于推断成熟状态和内部品质属性,特别适用于质量增强的产量预测和收获时机评估。
3.3 评估指标
标准化的评估体系对于比较不同果园产量估计方法以及连接算法性能与实际部署需求至关重要。本综述将评估指标分为四类:检测指标、计数指标、回归指标和部署指标。检测指标主要用于果实检测和实例分割任务,包括精确率、召回率、F1分数、平均精度(AP)和平均精度均值(mAP)。计数指标适用于基于视频的果实计数和多目标跟踪任务,包括计数准确率(CA)、计数错误率(CER),以及多目标跟踪准确率(MOTA)、身份F1分数(IDF1)和多目标跟踪精度(MOTP)。回归指标用于产量估计、果质量预测和产量反演任务,包括决定系数(R
2)、均方根误差(RMSE)、平均绝对误差(MAE)和平均绝对百分比误差(MAPE)。部署指标用于评估传感和估计系统的工程可行性,包括参数量(Params)、浮点运算数(FLOPs)、帧率(FPS)和能耗。果园产量监测可理解为一个集成流程:监测目标首先决定产量相关指标的选择,这些指标指导传感设备和搭载平台的选择,获取的数据进一步决定合适的算法方法,而实际部署约束最终影响系统级适用性。
4 设备与搭载平台
果园环境具有典型非结构化特征,包括密集果实重叠、严重枝叶遮挡和剧烈自然光照变化。然而,单传感器模态不可避免地存在感知盲区,易导致漏检,无法满足全天候高精度产量估计的严格要求。因此,传感器选择应基于场景而非技术驱动。RGB相机适用于中等遮挡下的低成本果实检测,RGB-D和LiDAR传感器更适用于需要空间定位和冠层结构的情况,光谱传感器更适用于成熟度或品质相关评估,UAV平台更适合大规模冠层级产量制图而非精细尺度果实计数。
4.1 基于二维视觉的产量估计
4.1.1 静态RGB成像设备
RGB相机是果园产量估计中最通用且成本效益高的基础视觉设备。基于静态RGB图像的果实检测系统已广泛应用于苹果、柑橘和芒果等作物的产量估计研究。静态RGB设备最适合通过边缘计算或智能手机进行低成本绝对果实计数和单树作物负荷估计。然而,缺乏深度数据使其易受严重枝叶遮挡影响,经常导致重复计数和误检;RGB采集还受采样偏差和视角依赖性的影响。
4.1.2 地面搭载平台(UGV)
无人地面车辆(UGV)是近端数据采集的关键载体。与静态点采样不同,UGV可沿树行连续运行,通常集成工业相机、LiDAR和全球导航卫星系统(GNSS)单元。这些平台适用于连续树行扫描、动态果实跟踪和跨帧冗余计数减少,为早期花簇检测和产量预测提供决策支持。但连续运行带来大量数据冗余和实时处理需求,系统有效部署依赖于平台机械稳定性与后端跟踪算法的协同优化。
4.2 基于三维空间的产量估计
由于二维图像缺乏深度信息,严重枝叶遮挡和果实重叠是漏检和误检的根本原因。三维空间感知技术通过引入第三维度有效克服这些限制。
4.2.1 RGB-D传感器
RGB-D传感器通过同时输出RGB图像和对应深度图获取增强空间数据,为精准果实空间定位、尺寸/体积估计和近程三维感知提供支持,有助于缓解遮挡瓶颈。然而,这些设备在强烈户外阳光和高反射率下性能显著下降,因此有效部署严格限于近场范围(通常<5米)或可控光照环境。
4.2.2 LiDAR扫描与点云获取平台
LiDAR扫描平台通过主动激光发射直接捕获目标物体的高保真三维空间坐标和几何形态,有效超越二维图像的“表面”限制。LiDAR非常适合冠层结构分析、三维空间分布制图和稳健体积提取。尽管具有光照不变性,但其高昂硬件成本、复杂的点云处理以及相对于RGB像素密度较低的水果级分辨率阻碍了大规模自主部署。
4.3 光谱传感设备
近端光谱传感设备(如可见/近红外(Vis/NIR)光谱仪和高光谱成像(HSI)系统)能够通过果皮反射特性提取内部生理生化参数,包括可溶性固形物(SSC)、干物质(DM)和硬度。这推动了产量监测系统从“定量计数”向“协同数量-质量评估”的转变。便携式NIR光谱仪适用于原位成熟度评估、质量增强产量估计和最佳收获调度。地面HSI与UGV集成已显示出连续作物负荷估计的潜力,实现了稳健的相关性(R
2>0.75)。然而,HSI本质上仍是二维成像模态,受限于窄视场(FOV)和推扫(线扫描)成像机制,难以实现多视角三维重建或完全避免严重遮挡导致的漏检。
4.4 低空遥感平台
UAV平台可灵活集成RGB相机、多光谱成像仪、热红外传感器和LiDAR,系统获取冠层图像、植被指数、热分布、三维结构拓扑和空间异质性指标。与地面系统相比,UAV平台具有宽视场、高作业效率和单次飞行大空间覆盖的特点,适用于大规模商业果园、地形复杂的丘陵/山区。然而,UAV受限于顶视(天底)视角,内侧冠层果实常被密集叶片遮挡,直接观察极为困难。此外,飞行高度直接影响空间覆盖与地面采样距离的权衡,多光谱/高光谱UAV监测还需要辐射定标。UAV运行还易受恶劣天气、飞行高度限制、有限电池续航和航空安全法规影响。
4.5 面向任务的传感设备比较
为系统总结上述技术的互补性,表3提供了代表性传感设备在精度果园产量估计中的功能优势、适用尺度和部署准备度的全面比较。RGB相机适用于低成本计数和作物负荷估计,RGB-D传感器适用于果实定位和尺寸估计,LiDAR适用于冠层结构分析和三维分布,高光谱/多光谱传感器适用于成熟度评估和质量增强估计,UAV平台适用于区域产量制图和时空监测。
5 模型与方法
果园产量估计方法的轨迹展示了在复杂果园中从经验规则驱动到数据驱动,再到多源协同框架的持续演变。早期研究依赖手工规则,利用颜色、纹理和形态特征进行果实识别和计数。随后研究人员引入传统机器学习模型,结合手工特征与分类回归算法,在复杂背景下提高产量估计能力。近年来,深度学习方法,特别是卷积神经网络(CNN)、目标检测和实例分割,已成为主流,并朝着多模态融合方向演进。
5.1 传统产量估计方法
传统果园产量估计主要包括基于规则的图像处理和基于手工特征的机器学习两种技术范式。早期研究依赖色彩空间变换、阈值分割和形态学操作提取果实区域。后续研究引入形状先验和边界检测策略,如圆形拟合和霍夫变换。为了减少环境干扰,研究结合统计模型引入优化特征提取方案,如改进阈值法、纹理描述子和人工设计特征(灰度共生矩阵GLCM、方向梯度直方图HOG、哈尔特征等),并与支持向量机SVM、随机森林、AdaBoost和K均值聚类等分类器结合。这些方法在可控场景下取得满意结果,但对光照变化、树冠遮挡、果实重叠和背景相似性高度敏感,限制了鲁棒性和泛化能力。
5.2 用于产量估计的深度学习方法
端到端深度学习已成为果园产量估计的主导范式,能够在复杂田间条件下实现稳健的果实检测、计数和产量预测。与传统方法不同,深度网络自动学习层级判别特征,减少对手工特征的依赖,提高了对密集遮挡、果实重叠、复杂背景和变化光照的鲁棒性。基于深度学习的方法可归为三大类:基于目标检测的方法高效定位和计数单个果实;语义和实例分割方法提供像素级描绘,实例分割特别有利于分离重叠果实;回归和多模态融合框架进一步整合检测或分割输出与辅助参数,实现尺寸反演、单果质量估计和整体产量预测。
5.2.1 基于目标检测的果实计数
目标检测是直接果实计数中最广泛使用的范式,通过边界框定位、识别和量化单个果实。两阶段网络(如基于区域的卷积神经网络(Faster R-CNN))先生成区域提议再分类,提供高精度和强适应性。单阶段网络(如只看一次YOLO系列和单次多框检测器SSD)将分类和回归集成在单一框架中,推理速度更快,适合移动机器人和边缘设备的实时应用。近期YOLO框架研究集中在多尺度表示、特征重新校准(注意力机制)、模型压缩和环境适应性四个方面,以优化检测性能。
5.2.2 多目标跟踪(MOT)算法
在基于视频的果园产量估计中,重复计数是主要挑战。多目标跟踪(MOT)算法通过跨帧关联同一果实,减少重复计数,提高累积产量估计的可靠性。现有MOT方法主要包括跟踪-检测和时序建模两种方法。跟踪-检测方法利用运动和外观线索关联检测结果,结构简单、实时性好。时序建模方法进一步融入时序或时空信息,更适合处理遮挡、视角变化和果实暂时消失。结合动态卡尔曼滤波和IoU-ReID关联的方法已实现95.0%的MOTA。
5.2.3 语义分割与实例分割
当果实严重重叠或黏连时,常规目标检测的刚性边界框常导致粗定位和计数误差。语义分割通过像素级分类(如果实vs非果实)实现冠层覆盖估计和密集簇识别,典型架构包括全卷积网络(FCN)、U-Net和DeepLab。实例分割在语义基础上同时检测目标并输出像素级掩模,能更好分离高密度冠层中的黏连果实,代表框架包括Mask R-CNN和YOLACT。YOLO-based实例分割已在苹果园中实现快速推理和高精度。实例分割还可促进结构性作物负荷估计,如通过分割树干和枝条获得截面面积来预测枝级作物负荷。
5.3 基于UAV遥感的方法
UAV遥感能够采集光谱、纹理和结构数据用于预测果园产量。早期模型集中于植被指数和冠层尺寸,但精度常受非线性果园动态限制。近期进展将高分辨率正射影像与深度学习结合,使UAV方法成为产量估计的核心。例如,将区域CNN应用于UAV苹果正射影像,实现果实计数R
2=0.86和产量预测R
2=0.80。研究越来越多地将UAV数据与地面观测结合,以提高精度。然而,树冠遮挡、跨区域泛化和数据采集成本仍是挑战。
5.4 方法间比较与适用性分析
本部分超越描述性总结,明确比较代表性感知和估计路径的适用性边界。RGB成像广泛用于果实检测和计数,但对遮挡、光照和背景干扰敏感。RGB-D和LiDAR添加深度信息,改善定位和冠层表征,但成本和处理需求更高。高光谱和多光谱传感器支持成熟度和品质评估,但不适合大规模计数。UAV实现果园尺度监测和空间异质性分析,但单果精度较低。算法上,单帧检测适用于静态计数,视频多目标跟踪减少移动平台上的重复计数,实例分割有效分离重叠果实,回归或多模态融合整合多个变量用于树或果园级产量预测。没有单一方法普遍最优;RGB/RGB-D适合高精度树级估计,UAV和遥感支持高通量果园尺度监测。
6 已知与待努力方向
虽然先进传感与深度学习的集成极大推进了果园产量监测,但弥合学术原型与商业部署之间的差距需要批判性评估当前认知边界。
6.1 已知:当前知识状态
当前文献明确表明,仅依赖2D视觉不足以应对复杂冠层。引入深度信息(如RGB-D或LiDAR)对于解决严重遮挡和重叠是强制性的,将范式从平面果实计数转向三维空间定位和冠层体积分析。目标检测和实例分割框架在静态或受控环境中已达到较高成熟度,在减轻光照和背景干扰方面显著优于传统手工特征方法。此外,视频流中的跟踪-检测方法在减少移动平台上的冗余计数方面已被证明有效。
6.2 待努力方向:未解决的挑战与研究空白
从表型计数到生物量反演:大多数现有模型仅将产量视为离散计数问题,但实际可收获产量是连续质量变量。在严重遮挡下将二维投影面积或部分三维点云准确转换为单果质量和总生物量仍存在深刻鸿沟。未来研究必须转向稳健的几何重建和质量反演算法。
在高度动态冠层中的稳健多目标跟踪:跟踪算法可减少重复计数,但在连续UGV树行扫描中,当果实暂时消失在密集叶片后并重新出现时经常失败。需要建立更鲁棒的时空记忆以维持长时间遮挡下的身份一致性。
当前深度学习模型存在严重域偏移。在结构化二维V形篱架果园上训练的计数模型在转移到传统三维球形冠层时通常失效。缺乏针对多样化非结构化树架构的通用特征表示仍是关键瓶颈。
6.3 社会经济可行性及采用路径
智能产量监测的最终瓶颈不仅是算法精度,更是社会经济可行性,尤其在资源和技术严重受限的发展中地区。高端传感器和自主平台的资本支出阻碍了广泛采用。未来研究必须优先考虑成本效益部署,关注低成本的视觉系统和在离线开放田间环境可靠运行的边缘计算范式。此外,激励农民采用取决于能否展示明确的投资回报率和易用性。系统应具有直观界面(如智能手机生成的产量热图),将原始数据直接转化为精准疏果和收获物流的可操作信息。为克服数字鸿沟并最小化培训需求,行业可探索“监测即服务”商业模式和政策驱动的补贴,使农民无需大量前期资本或技术专长即可获得先进的产量制图。
7 结论
果园产量监测已从经验性田间采样和孤立图像分析发展为集生物指标、多源传感和数据驱动建模于一体的智能感知范式。本综述表明,准确产量估计不仅仅是果实计数问题,而是一个涉及果实数量、大小、体积、空间分布、冠层结构、开花强度和光谱成熟度属性联合表征的复杂表型任务。直接果实级性状为作物负荷估计提供最明确基础,而间接结构和生理指标将监测尺度从单个果实和树扩展到行、地块和整个果园。因此,未来果园产量监测应理解为从单维数量估计向多维产量表征的转变。RGB成像、RGB-D传感、LiDAR、高光谱/多光谱传感、UAV遥感和无人地面平台的最新进展极大拓展了技术边界。同时,深度学习方法显著提高了检测精度、计数稳定性和产量预测能力。然而,没有单一传感器、平台或算法能独立克服商业果园的固有挑战。严重冠层遮挡、果实重叠、变化光照、异质性树冠结构和背景干扰继续限制模型鲁棒性,而高计算成本、弱跨环境泛化以及缺乏标准化基准数据集制约了大规模部署。未来研究必须超越孤立的方法级优化,转向系统级智能和社会经济可行性。应优先发展遮挡感知跟踪、将果实计数准确转换为生物量/重量估计,以及开发可在不同冠层架构中泛化的轻量级边缘可部署模型。关键在于,这些技术(尤其在资源受限和发展中地区)的广泛采用取决于最小化硬件成本、简化用户界面以及通过优化劳动物流和精准作物负荷管理建立明确经济回报。通过弥合先进算法感知与实用、成本效益农业决策之间的鸿沟,未来系统将把产量估计从回顾性计数练习转变为推动全球水果生产现代化可操作且可持续的催化剂。