《Ecological Informatics》:Reducing annotation burden in benthic ecology: Weak supervision for automated detection of seafloor sediment-linked features
编辑推荐:
种子标注(Seed annotations)可启动对重复性海底特征(repetitive seafloor features)的标注。特征相似性(Feature similarity)可将种子框(seed boxes)扩展为候选标注(candidate ann
种子标注(Seed annotations)可启动对重复性海底特征(repetitive seafloor features)的标注。特征相似性(Feature similarity)可将种子框(seed boxes)扩展为候选标注(candidate annotations)。迭代过滤(Iterative filtering)可改善基于生成标签(generated labels)的检测。密集、重复性特征(Dense, repetitive features)可实现标注节省(annotation savings);复杂情况(complex cases)需要复核(review)。
Shahrokh Heidari等针对底栖生态学中海底沉积物关联特征检测的标注瓶颈,提出两阶段弱监督目标检测(weakly supervised object detection, WSOD)框架。海底沉积物关联特征如洞穴、管状席、足迹、苔藓虫群体等构成软沉积物生态系统结构基础,影响沉积物稳定性、营养循环和栖息地复杂性。准确、快速、大规模检测对生态研究和保护管理重要。但这类特征隐蔽、边界弥散、与背景沉积物视觉相似,且缺乏专用框级标注数据集;密集标注耗时且需专家。弱监督学习(weakly supervised learning, WSL)和预训练基础模型(foundation models)可利用有限监督,DINOv3(一种预训练视觉基础模型)能识别结构相似区域,为减少标注提供可能。研究人员因此构建种子驱动的标注到检测器流程,在受控洞穴基准和十类沉积物特征数据集上评估。
主要关键技术方法(≤250字):研究人员采用两阶段框架。第一阶段以每类每图一个手动种子框为感兴趣区域(region of interest, ROI),用DINOv3 ViT-L/16提取密集特征,经特征匹配、亲和力随机游走和连通域分析生成候选框作为初始伪标签;第二阶段用YOLO11s进行WSOD迭代,包括微调、阈值校准、伪标签生成、过滤与top-
k选择,验证提升时更新权重。受控基准来自爱尔兰水下电视调查的Nephrops norvegicus公开数据集,选350幅图像并穷尽标注10,072框;生态案例来自新西兰Coromandel Peninsula Channel Island/Motu Takapu周围20段GoPro Hero 12雪橇拖曳视频,选2250帧,其中346帧由海底生态学家完整标注(100验证、246测试),1904幅无完整训练标注图像经DINOv3生成候选后一次性专家复核。评估指标包括Precision、Recall、F1、交并比(Intersection over Union, IoU)、mAP
50、mAP
50-95,并开展特征可分性、高斯模糊、模拟水下效应和一致性分析。
3.1 洞穴数据集分析。研究人员在350幅Nephrops norvegicus公开图像中穷尽标注10,072个框,每图一个种子框共350个。比较DINO-local、DINO-global、SAM-local、SAM-global,DINO-global伪标签质量最佳,DINO优于SAM,全局原型匹配优于局部。用伪标签训练YOLO11s,DINO-local和DINO-global第7次迭代达mAP
50 0.82、F1 0.77;全监督GT基线为mAP
50 0.94、F1 0.88。手动框减少96.5%,保留全监督mAP
50的87.23%。框绘制时间外推约16 min和7.8 h,仅为估计。结论:密集重复特征可实现标注节省,迭代弱监督能部分恢复标签噪声和欠标注损失。
3.2 沉积物特征数据集分析。1904幅无完整训练标注图像,原24类合并为10类:移除Whelks,Divit合并,14种海绵归为Sponges_1和Sponges_2。DINOv3特征显示类内一致和类间可分。生成15,688个框,经一次性专家复核后迭代训练,迭代0为初始微调,迭代1—4精炼。
3.2.1 迭代性能。验证集上迭代0至4总体改善,迭代3暂时下降。F1从0.611升至0.770,mAP
50-95从0.389升至0.565,mAP
50从0.658升至0.828。迭代4各类F1均值0.77,Anemone最高0.898,Mounds最低0.652;Fanworm召回0.937,但Anemone和Fanworm验证实例仅8和16,不确定性大。结论:迭代伪标签可提升由专家复核非穷尽标注初始化的检测器,精确定位仍难。
3.2.2 稳健性评估。高斯模糊下F1从0.770降至0.555,保留72.1%;Precision保留81.1%高于Recall 64.8%,模糊主要增加漏检。复合水下效应下F1从0.770降至Level 4的0.141,保留18.3%;Level 2 F1 0.612,mAP
50 0.642,较基线F1下降20.5%。一致性分析平均一致性93.0%,Recall一致性96.7%,mAP
50 94.5%;标准推理F1 0.770高于增强推理0.727。最终测试集上迭代4最佳模型mAP
50 0.838,Precision 0.762,Recall 0.746,F1 0.754。结论:轻度至中度退化下仍有检测能力,严重退化限制识别;预测可支持自动筛选和候选标注。
讨论总结:研究针对底栖生态学规模化细粒度特征检测瓶颈,将DINOv3特征表示与迭代弱监督结合。洞穴基准显示少量手动框可获得有用检测性能;多类案例显示可支持专家引导标注。框架不消除生态学专长,而将工作从穷尽画框转向复核、修正和解释自动候选。框级检测适合出现和近似空间位置比精确边界更相关的任务,如特征筛选、近似丰度、空间共现、斑块性评估;面积、形状、边界需更详细标注和独立验证。稳健性仅基于同一验证图像的合成变换,不证明跨平台、相机、栖息地和环境泛化。类别不平衡、视觉独特性、边界清晰度和类内一致性影响迭代精炼。弱监督输出应视为辅助候选标注而非确定生态观测。洞穴基准无独立未触碰测试集,性能为受控比较结果。总体是辅助组件,生态解释和专家监督仍核心。
研究结论翻译:研究人员提出了两阶段弱监督目标检测框架,结合基于DINOv3的种子传播与迭代伪标签精炼,以减少对穷尽人工标注的依赖。在受控洞穴基准上,该框架使用显著少于全监督的人工提供框实现了有用检测性能。多类沉积物特征案例进一步显示,该方法可支持视觉更复杂的生态图像中的专家引导标注,但生成标签在训练前需要专家复核。总体而言,这些结果表明该框架可作为辅助标注和检测工具,而非生态学专长的替代。当前证据局限于所评估数据集,尚未确立跨栖息地、调查平台、相机系统或环境条件的泛化性。未来工作应在独立数据集上评估框架,量化多类设置中的专家复核时间,并检验跨地点和成像条件的迁移。将方法扩展到联合表示底质组成和沉积物关联特征,可能支持软沉积物栖息地的更全面描述,但仍需应用特定的生态验证。