面向多示例部分标签学习的基于混合特征的协同消歧方法

《Neural Networks》:Hybrid Feature-based Collaborative Disambiguation for Multi-Instance Partial-Label Learning

【字体: 大 中 小 】 时间:2026年09月23日 来源:Neural Networks 7.2

编辑推荐:

   • 混合实例-包特征支持基于图的标签消歧。• 包分支和实例分支在协同框架下联合优化。• 逐轮自适应注意力过滤减少低可靠性干扰。 引言 在实际机器学习场景中,由于数据标注成本高昂以及标注过程中存在歧义性(Burns, Izmailov, Kirchner, Baker, G

  

• 混合实例-包特征支持基于图的标签消歧。• 包分支和实例分支在协同框架下联合优化。• 逐轮自适应注意力过滤减少低可靠性干扰。

引言

在实际机器学习场景中,由于数据标注成本高昂以及标注过程中存在歧义性(Burns, Izmailov, Kirchner, Baker, Gao, Aschenbrenner, Chen, Ecoffet, Joglekar, Leike, et al., 2025, Dong, Wang, Abbas, 2021, Taye, 2023),完全有监督学习的应用受到了极大限制。弱监督学习已成为解决该问题的重要途径(Lin, Shen, Wang, Lin, Li, Cao, 2024, Witmer, Bhanu, 2024)。多实例部分标签学习(MIPL)(Zhou, 2018)融合了多实例学习(MIL)和部分标签学习(PLL)(Ilse, Tomczak, Welling, 2018, Qiao, Xu, Hu, Geng, 2025)的特征。其核心设定为:训练数据由多个多实例包组成,每个包包含若干个实例,每个包仅被分配一个候选标签集,其中隐藏唯一真实标签。包内单个实例的标签信息是未知的。

多实例部分标签学习(MIPL)在广泛的计算机视觉和模式识别任务中展现出重要的实用价值。其突出的应用之一是病理图像分析,其中将单张病理切片建模为多实例包,切片内各个细胞区域作为实例(Tang et al., 2023);由于细粒度细胞标注成本高昂且具有主观性,临床医生只能提供切片级别的候选病灶标签,而无法提供精确的实例级别标注,这一设定与MIPL范式完美契合。类似场景也存在于视频分类(将视频视为包,帧视为实例)和生物声学识别(例如鸟鸣分类,以音频片段作为包,子片段作为实例)中,标注者仅能为整个包分配粗粒度候选标签集,而非为每个组成实例提供精确标签。这类标签歧义性和实例级标注稀缺性是实际机器学习应用中普遍存在的挑战,凸显了对鲁棒的MIPL方法的迫切需求,以应对这些实际约束并释放弱监督学习在现实场景中的潜力。

近年来,一系列多实例部分标签学习(MIPL)算法被提出,包括MIPLGP(Tang et al., 2024c)、DEMIPL(Tang et al., 2023)、ELIMIPL(Tang et al., 2024b)和MIPLMA(Tang et al., 2024a),用于解决实例和标签的双重歧义问题:MIPLGP采用高斯过程建模来处理具有歧义性的包数据,DEMIPL利用消歧注意力嵌入,ELIMIPL利用共轭标签信息和缩放加法注意力,MIPLMA引入边距调整损失以缓解弱监督标签偏差。尽管现有的MIPL研究已经探索了注意力聚合和实例-包信息,但已审视的方法在动态纯化的实例摘要与全局包表示的融合方面存在局限,特别是在基于图的标签精化与协同优化方面。为应对这一尚未充分探索的融合问题,我们提出了HFC-MIPL,该方法结合了混合表示、动态噪声过滤和双消歧协同训练框架。主要贡献总结如下:

• 我们构建了一种混合特征表示,在图构建之前将纯化的实例摘要与对齐的包嵌入相结合。• 我们构建了一个统一的协同训练框架,配备聚焦和流形双重消歧,联合优化包-实例损失以解决MIPL的双重歧义问题。• 我们提出了一种由原始注意力分数驱动的逐轮自适应噪声实例过滤策略,用于迭代抑制低质量样本干扰。

节选片段

多实例学习

多实例学习解决了实例空间歧义问题,即在无法获取每个实例标注的情况下仅能获取包级别标签(Shao, Chen, Song, Runevic, Lu, Ding, Mahmood, 2025, Xiao, Sun, Xia, Yang, Wang, Liu, 2026)。现有的MIL方法可系统性地分为三类:启发式实例选择方法、传统统计MIL模型和现代深度注意力流水线。早期启发式MIL算法依赖手工规则来选择——

预备知识

在多实例部分标签学习(MIPL)中,训练集由$m$个多实例包组成,记为$\mathcal{D} = \{(X_i, S_i)\}_{i=1}^{m}$,其中每个包$X_i = \{x_{i1}, x_{i2}, \cdots, x_{in_i}\}$包含$n_i$个实例,$x_{ij} \in \mathbb{R}^d$是第$i$个包中的第$j$个实例,具有$d$维特征向量。$S_i \subseteq \mathcal{Y}$是与包$X_i$关联的候选标签集,其中$\mathcal{Y} = \{1, 2, \cdots, K\}$表示包含$K$个类别的标签空间。遵循标准MIPL设定(Tang, Zhang, Zhang, 2023, Tang, Zhang, Zhang, 2024b),每个包恰好包含一个——

实验

本节在基准数据集上全面评估所提方法的性能。

结论

在本工作中,我们提出了一种基于混合特征的多实例部分标签学习协同消歧方法。该方法融合了实例级别和包级别表示,并采用聚焦和流形正则化来精化学习到的分布。在四个基准数据集和一个真实医学数据集上的实验表明,HFC-MIPL相较于对比的MIPL和PLL基线方法取得了具有竞争力的性能,同时保持了适中的计算成本。

CRediT作者贡献声明

Zhen Zhu(朱震):论文审阅与编辑,论文初稿撰写,可视化,验证,监督,软件,资源,项目管理,方法论,调查研究,资金获取,形式化分析,数据整理,概念构思。Yining Sun(孙一宁):软件,数据整理。Yuanbo Wang(王元博):软件。Bingxin Zhou(周炳新):软件。Yiwen Hu(胡逸文):软件。YuXing Zhang(张宇兴):软件。

利益冲突声明

作者声明不存在可能影响本文所述工作的已知的竞争性经济利益或个人关系。

Zhen Zhu | Yining Sun | Yuanbo Wang | Bingxin Zhou | Yiwen Hu | YuXing Zhang
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号