《Horticulturae》:TSP-Net: A Structure-Aware and Geometry-Constrained Network for Cherry-Tomato Truss Detection and Picking-Point Localization in Greenhouse Harvesting
编辑推荐:
在樱桃番茄串采收过程中,聚类果实、细弱茎秆以及模糊的果?茎连接处会导致漏检与采摘点定位误差。针对这些挑战,研究人员提出TSP-Net,一种基于YOLOv11n构建的结构感知与几何约束检测网络,并配套一个用于采摘点定位的ROI热图回归模块。TSP-Net在骨干网
在樱桃番茄串采收过程中,聚类果实、细弱茎秆以及模糊的果?茎连接处会导致漏检与采摘点定位误差。针对这些挑战,研究人员提出TSP-Net,一种基于YOLOv11n构建的结构感知与几何约束检测网络,并配套一个用于采摘点定位的ROI热图回归模块。TSP-Net在骨干网络中集成Truss感知多尺度Ghost跨阶段局部(TMG-CSP)模块,以增强果实边缘、小茎秆及簇状结构的特征表达;在特征融合阶段引入Truss导向轴向?局部注意力(TALA)模块,以捕获果实排列方向与局部遮挡边界;同时设计物理信息Truss一致性(PTC)损失,通过中心分布、果间间距与尺度连续性约束正则化检测框以契合果簇形态。对于采摘点定位,从检测输出提取局部ROI,预测高斯热图,并利用soft?argmax解码连续坐标。在受控评估中,TSP-Net取得精度81.81%、召回率73.21%、mAP@50 79.53%、mAP@50:95 64.83%,分别较YOLOv11n提升0.83、0.32、1.29与1.03个百分点;模型尺寸由5.23 MB降至5.08 MB,参数量由2.59 M降至2.49 M,计算量由6.4降至6.0 GFLOPs。在有效ROI测试集上,所提热图定位平均误差47.2 px、中位误差24.2 px,PCK@20、PCK@50、PCK@100分别为45.1%、68.4%、85.5%;同等ROI条件下较直接坐标回归平均误差降低11.3 px、PCK@20提升14.9个百分点。综上,该方法在轻量化约束下提升了樱桃番茄串检测与二维采摘点候选定位,为温室樱桃番茄采收提供结构感知视觉感知方案。
研究背景与动机:番茄是保护地栽培重要经济作物,但采收仍依赖人工,劳动强度大、成本高。温室场景存在果实密聚、枝叶遮挡、光照变化、果面反射与支架干扰,单果检测难以满足樱桃番茄整串采收需求——采收机器人需同时识别成熟度、推断果串结构、茎区与果?茎连接点。现有方法要么依赖手工特征(颜色/纹理)对遮挡与复杂背景敏感,要么采用YOLO系列做单果或成熟度检测但未显式建模“果串?茎?采摘点”空间关系;RGB?D与点云方案几何信息丰富却抬高传感器成本与计算复杂度。因此需在轻量化前提下实现结构感知检测与精确采摘点定位。
研究人员开展的工作与结论:研究人员以YOLOv11n为基线构建TSP?Net,同步检测成熟果、未熟果、樱桃番茄串(tomato cluster)、茎四类目标;骨干嵌入TMG?CSP利用Ghost特征生成与3×3/5×5深度可分离卷积增强细茎与边缘多尺度表达并降低冗余计算;Neck引入TALA,以轴向注意力建模果串排列与茎延伸方向、以局部注意力调制恢复遮挡边界,可学习系数α=tanh(γ)自适应平衡两支;训练期设计PTC Loss,借助果?茎标注框分组,通过边界包含、SVD主方向线性排列、相邻间距与尺度连续性三项物理先验约束预测框分布。采摘点定位另建ROI热图回归支路:检测框扩边裁ROI→缩放256×256→编解码网络输出64×64高斯热图(MSE监督)→soft?argmax解码连续坐标回映原图。论文发表于《Horticulturae》。该研究意义在于以<2.5 M参数、6.0 GFLOPs级开销在复杂温室场景提供更贴合果串形态的候选检测与二维采摘点,为边缘端采收机器人提供可行视觉前端。
主要关键技术方法(<250字):数据来自东北农业大学园艺试验站2025年7—8月温室手机采集(约占60%)与公开樱桃番茄图像(约40%),经清洗得4032张,增广后检测集12095张按7:2:1划分,标注四类框与唯一果?茎连接点(歧义ROI剔除)。基线选YOLOv11n;改进模块含TMG?CSP(GhostConv扩展比s=2、顺序3×3与5×5 DWConv、可选残差shortcut)、TALA(通道缩减r=24、5×5局部掩码、α=tanh(γ)调制)、PTC Loss(λ加权融入检测总损失);定位支路采用ROI裁切+256×256归一+64×64高斯热图+soft?argmax,对照Geometric与Direct?Coord。训练环境PyTorch 2.3.0、CUDA 12.1、RTX 4090D,固定seed=0。
研究结果:
3.1 基线模型对比:在n系轻量模型中YOLOv11n综合平衡最佳(5.23 MB/2.59 M/6.4 GFLOPs/150.7 FPS/mAP@50 78.24%);YOLOv10n与YOLOv12n精度更高但GFLOPs或FPS劣化;RT?DETR系列参数量超25倍、GFLOPs超34倍却精度更低。TSP?Net较YOLOv11n四项检测指标全升且尺寸/参数/计算量反降,较YOLO11s虽绝对精度低但体积仅约1/4、GFLOPs约1/3.6。
3.2 消融实验:单加TMG?CSP轻量但精度略降;单加TALA召回与mAP@50:95升而精度微降(误响枝叶亮区);单加PTC Loss不改推理图仅训时微调;TMG?CSP+TALA保轻量;TMG?CSP+PTC得最高P 82.14%/R 73.58%/mAP@50 79.65%;TALA+PTC提升mAP@50:95;全模块TSP?Net获mAP@50:95 64.83%(全表最高)且参数量2.49 M/6.0 GFLOPs,证明三模块互补——TMG?CSP提特征、TALA锐边界、PTC拘结构。
3.3 检测效果比较:可视化显示YOLO系在密果/远距/未熟低对比易漏检重框,RT?DETR框偏大不稳;TSP?Net在混熟、未熟、近距、远距场景框更贴果串主体与茎连接区。
3.4 热图特征可视化:Grad?CAM显示基线响应散于叶枝光斑;加TMG?CSP后聚向果缘与串体;再加TALA对齐排列/茎向;全模型高响应贴合果?茎连接且背景抑制。
3.5 采摘点定位可视化:有效ROI上热图法均误47.2 px、中位24.2 px,PCK@20/50/100=45.1%/68.4%/85.5%;近距姿态变化下红点聚于果?茎节,强反光/全遮时偏移。
3.6 部署实验:温室图流水线(检测→果串与茎框构ROI→256×256→热图→soft?argmax)在近中距可行,远距/重遮/框偏则误差传播增大。
3.7 同ROI定位法对比:Geometric均误85.2 px,Direct?Coord 58.5 px,热图法47.2 px;热图法较Direct?Coord均误降11.3 px、中位降14.5 px、PCK@20升14.9 pt,但参数量4.85 M→7.77 M、单ROI延时0.80→1.39 ms。
讨论与结论翻译:视觉感知需同时处理成熟度、果串结构、茎区与连接点,数据集标注范围决定适用性。TSP?Net在轻量约束下以结构模块(TMG?CSP/TALA/PTC)提升樱桃番茄串检测与二维采摘点候选定位,热图回归优于直接坐标与几何启发式;局限为仅输出二维候选、远距小目标与强遮挡下稳定性下降、未在Jetson等边缘端实测、单seed无显著性检验。结论:所提方法增强樱桃番茄串检测与2D采摘点候选定位同时满足轻量化约束,为温室樱桃番茄采收提供结构感知视觉感知解决方案。