基于证据深度模型的不确定性感知多实例部分标签学习

《Neurocomputing》：Uncertainty-aware multi-instance partial-label learning via evidential deep model

　　

摘要

多实例部分标签学习（MIPL）是一种具有挑战性的弱监督学习范式，其中实例级模糊性与标签级模糊性同时存在。现有的基于注意力的MIPL方法通常使用确定性权重来识别关键实例，但由于无法量化不确定性，这类方法容易受到噪声或模糊实例的影响。为解决这一局限，我们提出了具有不确定性感知的多实例部分标签学习（UAMIPL）框架，该框架将不确定性明确纳入实例聚合过程。具体而言，UAMIPL通过贝叶斯建模对实例评分参数进行全局不确定性分析，同时通过实例级的证据不确定性估计机制处理局部不确定性。由此产生的可靠性信号可用于校准基础注意力分数，从而获得更具鲁棒性的袋表示学习所需的不确定性感知聚合系数。在基准数据集和真实世界数据集上的大量实验表明，UAMIPL在面临严重噪声和模糊性情况时仍能保持优异性能。进一步分析显示，所提出的不确定性感知聚合机制提升了模型的鲁棒性，增强了实例级的可解释性，并发挥了全局与局部不确定性建模的互补作用。

引言

深度学习在诸多应用领域取得了显著成就，但其性能往往依赖于大量标注精确的数据。然而在许多现实场景中，获取精确标签的成本高昂、耗时费力，有时甚至不可行[23]、[39]、[47]。为减轻这一负担，弱监督学习（WSL）逐渐受到重视。WSL涵盖了一系列具有不精确、不准确或不完整监督条件的学习范式，其中标签仅与数据实例粗略关联的不精确监督尤为常见。用于处理不精确监督的两种典型框架分别是多实例学习（MIL）[1]、[5]、[10]和部分标签学习（PLL）[8]、[26]、[27]、[32]、[46]。

在许多实际任务中，这两种形式的不精确监督会同时出现，这就形成了更为复杂的双重不精确监督场景。例如在计算病理学中，全切片图像通常被表示为一组图像块（即实例）[4]、[7]、[44]，但往往难以给出唯一的明确诊断结果。由于视觉上的模糊性和诊断的不确定性，病理学家可能会提供一组候选诊断结果[9]。这一场景后来被正式定义为多实例部分标签学习（MIPL）[31]。

作为MIPL领域的最初研究工作，MIPLGP[31]提出了一种基于高斯过程的解决方案，用于建模实例空间中的实例间相关性。但该方法将袋中的所有实例视为同等重要，因此缺乏突出最有用实例的机制，当真正具有区分度的实例占比较低时，其性能可能会受到影响。为解决这一问题，后续研究转向了基于深度注意力的架构，这类架构在传统MIL任务中已展现出良好效果[12]、[17]、[24]、[25]。通过为不同实例分配自适应权重，这些方法能够更精准地识别袋中的重要证据。在MIPL领域，DEMIPL[29]首次引入了结合动量策略的基于注意力的深度学习方法。ELIMIPL[30]通过利用共轭标签信息进一步提升了性能，而MIPLMA[28]则解决了优化过程中的边界违反问题。

尽管取得了进展，现有的深度MIPL方法仍然主要依赖确定性的实例加权方式。在大多数情况下，实例特征会通过确定性函数映射为单一的注意力分数，从而得到实例贡献的点估计值。当实例所携带的证据存在模糊性、噪声或支持度较弱时，这种机制就不够用了。在这种情况下，模型仍可能为不可靠的实例分配相对较高的权重，进而干扰袋表示学习的结果，影响后续的部分标签预测。因此，除了判断哪些实例重要之外，还需能够评估这些实例贡献的可靠性。

基于这一思考，我们从不确定性感知的角度重新审视MIPL中的实例聚合问题。我们认为，更可靠的袋表示应同时考虑两个层面的不确定性：全局层面由模型参数估计带来的不确定性，以及局部层面与单个实例证据相关的不确定性。基于这一理念，我们提出了具有不确定性感知的多实例部分标签学习（UAMIPL），这是一种新的MIPL框架，它将贝叶斯参数推断与证据不确定性建模相结合。具体而言，UAMIPL通过变分贝叶斯推断对实例评分参数进行全局不确定性建模，而局部不确定性则通过实例级的证据分数估算后转化为可靠性信号。这一可靠性信号还可用于校准基础注意力权重，使得不确定性较高的实例对袋聚合的贡献降低。这样一来，UAMIPL不仅为实例分配重要性分数，还会根据支持证据的置信度调整这些分数。

本研究的主要贡献如下：

• •
  我们分析了MIPL中确定性实例加权的局限性，提出了一种具有不确定性感知的框架——UAMIPL，旨在提升在双重不精确监督条件下的袋表示学习鲁棒性。
• •
  我们设计了一种新的不确定性感知聚合机制，该机制结合了贝叶斯全局参数不确定性分析与基于证据的局部可靠性评估，使模型能够根据特征显著性和不确定性信息来调整实例的贡献程度。
• •
  我们在多个基准数据集和真实世界数据集上进行了大量实验，结果表明UAMIPL在性能上可与现有的最先进MIPL方法相媲美，且更具鲁棒性。

本文的其余结构如下：第2节回顾相关研究，第3节介绍所提出的UAMIPL框架，第4节展示实验结果与分析，最后第5节对全文进行总结。

章节要点

相关工作

在本节中，我们将简要回顾与本研究相关的现有文献，包括多实例学习、部分标签学习、多实例部分标签学习，以及与贝叶斯和证据建模相关的不确定性量化方法。

方法论

首先，本节将对多实例部分标签学习（MIPL）问题进行 formalization 定义。接着，我们会介绍所提出的UAMIPL框架的总体架构。之后，将详细阐述该框架的核心组件——证据注意力模块。最后，我们会说明袋表示学习过程以及端到端的优化目标。

实验部分

在本节中，我们将通过一系列大规模实验来验证所提出的UAMIPL框架的有效性。我们的评估旨在回答以下关键问题：（1）UAMIPL在标准基准测试中的表现是否优于现有的最先进MIPL和PLL方法？（2）与基于确定性的注意力模型相比，UAMIPL在应对实例级噪声方面是否具有更强的鲁棒性？（3）我们提出的统一概率框架中的核心组成部分，即全局不确定性和局部不确定性，是否真的起到了应有的作用？

结论

在本研究中，我们分析了多实例部分标签学习（MIPL）中确定性实例加权方法的局限性，这类方法可能会使袋表示学习对模糊、不可靠或受损的实例过于敏感。为解决这一问题，我们提出了UAMIPL，这是一种具有不确定性感知的MIPL框架，它结合了贝叶斯全局不确定性建模与局部证据不确定性估计技术。与仅依赖确定性点估计的实例贡献度评估方法不同，UAMIPL

CRediT作者贡献声明

Gaowen Jie：写作——初稿撰写、形式化分析、概念构思。Fumiao Wang：写作——审阅与编辑、形式化分析、概念构思。Gaojie Song：写作——审阅与编辑、研究调研、形式化分析。Luojun Lin：写作——审阅与编辑、项目指导。Yuanlong Yu：写作——审阅与编辑、项目指导、资金筹集。Qinghai Zheng：写作——审阅与编辑、资金筹集、形式化分析、概念构思。

利益冲突声明

作者声明不存在任何可能影响本文研究结果的已知财务利益冲突或个人关系。

Gaowen Jie于2020年获得江西师范大学计算机科学学士学位，目前就读于福州大学计算机与数据科学学院，攻读计算机科学硕士学位。他的研究兴趣包括机器学习、多视图学习以及多实例部分标签学习。

Gaowen Jie|Fumiao Wang|Gaojie Song|Luojun Lin|Yuanlong Yu|Qinghai Zheng

中国福建省福州市福州市区，邮编350108，福州大学