评估在具有真实标签噪声的3D分割任务中自动检测标签噪声的方法

《Neurocomputing》:Evaluating automatic label noise detection in 3D segmentation with realistic label noise

【字体: 大 中 小 】 时间:2026年04月08日 来源:Neurocomputing 6.5

编辑推荐:

  自动标签校正方法在3D数据中的应用研究,比较真实与人工噪声下的修正效果及性能。

  
安德烈亚斯·马祖尔(Andreas Mazur)| 艾萨克·罗伯茨(Isaac Roberts)| 大卫·P·莱因斯(David P. Leins)| 亚历山大·舒尔茨(Alexander Schulz)| 芭芭拉·哈默(Barbara Hammer)
CITEC – 认知交互技术中心,Inspiration 1,33619 比勒费尔德,北莱茵-威斯特法伦州,德国

摘要

为了应对机器学习流程中注释数据量不断增加所带来的问题,人们开发了自动标签校正方法。这些方法大多在欧几里得数据中的人工噪声上进行评估。然而,特别是几何深度学习领域可以从性能良好的标签校正算法中受益,因为非欧几里得数据(如3D中的曲面)在标注时特别困难且容易出错。为了评估现有标签校正方法在3D数据中的适用性,我们使用真实和人工标签噪声在3D领域评估了自动噪声检测方法。我们不仅评估了它们在3D中的有效性,还检查了它们在“细致性”和“激进性”等属性方面的整体校正行为,并比较了两种噪声类型之间的差异。我们的研究表明,在3D分割问题中找到真实噪声与找到人工噪声的性质是不同的。

引言

尽管深度学习方法在图像、文本和音频等领域取得了显著成功,但这些数据驱动的方法也在其他领域变得越来越成功,包括可以用图、网格、点云或多边形网格数据表示的非欧几里得环境[1]、[7]。在这些环境中,应用于3D对象分割等任务的几何深度学习(GDL)已经取得了有希望的结果[17]、[31]、[38]。
作为一种数据驱动的方法,GDL依赖于高质量的训练集,但在实践中——尤其是在3D环境中[53]——这样的训练集并不容易获得。与图像领域不同,在图像领域,自动标注和人工标注的结合是分割的最新技术[21]、[40],而在3D领域,难度主要归因于:(i) 标注过程的复杂性,通常需要旋转和平移3D对象以正确检查和选择顶点[30];(ii) 数据的庞大体积,例如ShapeNet[8]本身就包含300万个形状,每个形状包含多种分割类别,每个类别又包含不同数量的顶点。这一繁琐的过程促使人们开发了自动标注3D形状的方法,如边界框[52],或者结合自动和手动标注的混合方法[8]、[30]。
除了这些交互式方法外,还有许多方法旨在检测标签噪声或在标签噪声存在的情况下稳健地训练模型,而无需人工干预。详见表1。值得注意的是,这些方法大多在图像数据上进行评估,而在3D分割中标签噪声校正的研究相对较少(仅在附录的实验中有所涉及)[50]、[53]、[57]。一个例外是将2D图像和3D表示联系起来的工作,这些工作利用了SAM[21]和CLIP[39]等视觉基础模型来进行2D图像的分割[10]、[34]、[57]。然而,这并不适用于我们的研究环境,因为我们不假设我们的3D数据有对齐的2D图像信息。
在针对噪声数据的自动方法中,我们重点关注显式标签噪声检测的自动方法,以提高给定数据集的质量。虽然这些方法已经被开发出来,但它们检测错误标注点的能力通常仅通过检测人为添加的噪声来评估,这些噪声通常是对称的或非对称的、基于类别条件的[9]、[32]、[50]。虽然使用这种人工噪声进行评估是一个合理的基本方法,但它反映真实标签噪声的能力可能受到两个因素的严重限制:i) 仅依赖于真实类别的人工标签噪声忽略了实际环境中可能存在的结构或几何属性;例如,在分割环境中,错误标签可能更有可能出现在边界区域,或者错误标签可能更可能出现在局部组或簇中,而不是在类别内部随机出现。ii) 虽然可以在人工标签噪声的生成过程中考虑这些特征,但在实际环境中可能存在我们不知道的其他属性。因此,我们没有像在[16]、[56]中那样设计越来越复杂的人工标签噪声生成策略,而是在真实标签噪声环境中评估了自动校正策略。特别是,我们使用了[29]中的数据集,该数据集包含由形状匹配程序引起的人类在交互式设置中校正的标签噪声。此外,为了强调3D领域中真实噪声和人工噪声环境之间的差异,我们在FAUST数据集[4]的修改版本上进行了实验——将其重新用于分割任务——并将人工噪声的校正结果与真实噪声的校正结果进行比较。
针对这些限制,我们的主要贡献是:i) 我们评估了针对3D领域的最近自动标签校正方法用于标签噪声检测。ii) 对于真实和人工标签噪声,我们研究了自动校正方法在“细致性”(正确检索的错误标注点较少)和“激进性”(恢复许多错误标注点以及没有标签错误的点)等属性方面的校正策略。iii) 使用真实噪声,我们讨论了在下游任务上的泛化性能是否是校正质量的可靠指标。iv) 为了强调3D环境中真实噪声和人工噪声之间的差异,我们比较了在两种噪声类型下实验中观察到的校正策略。v) 我们提供了关于机器学习中对抗标签噪声方法的最新文献概述,并从应用角度进行了分类。

相关研究

相关工作

在本节中,我们讨论了在存在错误标注示例的情况下进行分类的相关工作。
尽管3D数据的标签噪声挑战尚未得到广泛研究,但确实存在一些处理经典数据类型标签噪声的方法[14]、[24]、[45]、[46]。检测标签噪声的方法被分为全自动方法和交互式方法。在表1中,我们将文献中的方法分为这些类别,主要关注较新的研究。

基础

标签噪声是机器学习社区中普遍存在的问题。因此,已经开发了多种方法来对抗噪声标签的对抗效应(参见表1)。通常,标签噪声检测方法利用数据嵌入而不是原始的原始数据本身。在下一节中,我们将解释内在网格CNN(IMCNNs)背后的基本思想——这是一种专为3D空间中的2D表面设计的神经网络架构。

寻找真实标签噪声

接下来,我们通过两个研究问题来研究我们选择的方法,以探讨非欧几里得数据的自动标签校正:
  • 1.
    在3D环境中,自动标签校正与人类专家的校正有何不同?
  • 2.
    自动标签校正的有效性如何?
我们首先介绍我们的数据集。如前所述,真实噪声和人工噪声之间存在结构差异。我们讨论了这个主题

结论

在这项工作中,我们首先通过(i) 将自动标签校正方法建议的校正集与人类专家的校正集进行比较,以及(ii) 通过评估使用每种方法建议的校正进行训练的模型的泛化性能,来研究在非欧几里得环境中真实标签噪声下的自动标签校正方法。
我们的评估

写作过程中生成式AI和AI辅助技术的声明

在准备这项工作时,作者使用了ChatGPT来提高句子层面的可读性和写作质量。使用后,作者根据需要审查和编辑了内容,并对发表文章的内容负全责。

CRediT作者贡献声明

安德烈亚斯·马祖尔(Andreas Mazur):写作——审阅与编辑、撰写初稿、可视化、验证、监督、软件、项目管理、方法论、调查、形式分析、数据整理、概念化。艾萨克·罗伯茨(Isaac Roberts):撰写初稿、可视化、软件、方法论、调查、概念化。大卫·P·莱因斯(David P. Leins):撰写初稿、可视化、软件、方法论、调查、形式分析、概念化。亚历山大·舒尔茨(Alexander Schulz):写作——

利益冲突声明

作者声明他们没有已知的竞争性财务利益或个人关系可能影响本文报告的工作。
安德烈亚斯·马祖尔在比勒费尔德大学获得了认知计算机科学(B.Sc.)(2020年)和智能系统(M.Sc.)(2022年)学位。目前他是认知交互技术中心机器学习小组的博士生。在德国研究基金会(DFG)的2422优先计划框架下,他正在研究可解释的机器学习替代模型,用于多阶段冲压弯曲过程,这是一个制造大量产品的重要工业过程。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号