基于D–S证据理论的属性约简方法，用于处理具有标签置信度及加权邻域粗糙集模型的部分标记异构数据

《Engineering Applications of Artificial Intelligence》：D–S evidence theory-driven attribute reduction for partial label heterogeneous data using label confidence and weighted neighborhood rough set model

　　摘要：在信息时代，数据集中标签模糊和高维度问题是常见现象。部分标签异构数据指的是每个样本都有一组候选标签，其中包含其对应的真实标签，同时这些样本还具有不同类型的属性（包括序数型、名义型和数值型）。为解决这一问题，人们通常采用加权邻域粗糙集模型来进行属性约简。对于候选标签集中的标签模糊问题，可以通过标签置信度预测方法来降低标签的不确定性。此外，D–S证据理论因其处理不确定性的优势而被广泛应用于人工智能和决策领域。本文结合加权邻域粗糙集模型、标签置信度预测方法以及D–S证据理论，用于处理部分标签异构数据的属性约简问题。首先构建加权邻域粗糙集模型，通过权重量化属性的重要性，并将其纳入邻域构建过程，以更好地描述样本间的邻域关系。接着，基于加权邻域关系，利用标签置信度预测方法从候选标签集中预测标签。然后，使用得到的预测标签构建D–S证据结构，并提出两种基于λ-信念和λ-合理性图的属性约简算法。最后，实验结果表明，所提出的算法在分类性能方面优于现有的六种算法。

引言：由于标注成本高昂、专业要求严格以及各种实际限制，在现实场景中很难对样本进行精确的单标签标注。标注者无法确定每个样本的唯一真实标签，只能根据真实标签及有限的先验信息从候选标签集中为样本标注标签。此外，手动标注错误往往会导致错误的标签出现，从而降低标注的可靠性。这种固有的标签不确定性导致了部分标签数据的普遍存在，这促使人们将部分标签学习作为弱监督学习领域中的一个重要研究方向（Zhou, 2018; Y.F. Li等人，2021）。部分标签学习是一种学习范式，其中每个样本都有一组包含其真实标签的候选标签集，核心任务是从该集合中检索出真实标签。目前，部分标签学习已广泛应用于多个实际领域，如图像识别（Chen等人，2018）、脑电图情绪识别（He等人，2025）、医学图像分析（Feng等人，2024）、高光谱图像分类（Yang等人，2024；Tian等人，2025）以及自然语言处理（Zhou等人，2018）。在部分标签设置下的多标签图像识别领域，它也得到了广泛应用。例如，Li等人（2026）探索了基于标签共现度量和图对比学习方法的多标签图像识别技术。这些广泛应用充分体现了部分标签学习在现实任务中的实用性和通用性。

在实际应用中，数据集很少只包含一种属性类型，而是涵盖多种类型，包括序数型、名义型和数值型。这类由不同属性类型构成的数据，由于数值分布、测量方法和语义内涵等方面的差异，被称为异构数据。由于异构数据中属性特征的巨大差异，传统的通用处理方法难以有效处理此类数据，这就迫切需要针对性的处理策略，这也是数据挖掘领域的一个关键挑战。在现实世界的标注和应用场景中，部分标签数据和异构数据常常共存，从而形成了部分标签异构数据。按照本文的定义，部分标签异构数据指的是每个样本都与一个包含单一真实标签的候选标签集相关联，而其属性则包括多种类型，即序数型、名义型和数值型。与单标签数据或传统异构数据相比，部分标签异构数据的处理和分析难度要大得多，因为它需要同时应对标签模糊和属性异质性两大挑战，这也使得部分标签异构数据的分析与处理成为当前弱监督学习领域的热点研究课题。

粗糙集理论由Pawlak在1982年提出，是处理数据不确定性和不完整性的一种有效工具。它能够在不依赖先验知识的情况下对数据集进行客观描述和处理，因此在属性约简（Zhang和Yao，2022）、规则推理（Blaszczynski等人，2011）、不确定性量化（Wang等人，2023）、不确定性推理（Greco等人，2006）以及异常值检测（Jiang和Chen，2015）等领域得到了广泛应用。邻域粗糙集通过邻域关系来描述样本间的相似性，有效地弥补了传统粗糙集在处理连续数据方面的不足。然而，无论是传统粗糙集还是普通邻域粗糙集，都没有考虑到各种属性对决策结果贡献程度的差异。因此，本文在传统粗糙集框架下引入基于标准差的属性权重，构建了加权邻域粗糙集。这些权重在建立邻域关系时量化了每个属性的离散程度，有助于模型处理复杂数据。

D–S证据理论建立在基本的概率分配（质量函数）之上（Petturiti和Vantaggi，2018），由此可以得出信念函数和合理性函数，分别用来描述一个命题被确定的支持程度以及可能被支持的程度。两者共同构成了一个不确定性区间，用于量化与该命题相关的不确定性。相比之下，粗糙集理论则通过上下近似来定性描述样本与集合之间关系的不确定边界，这两种理论各有侧重，但在处理不确定性方面有着密切的联系（Campagner等人，2022；Lin等人，2015）。近年来，D–S证据理论在属性约简领域取得了显著成果，并已成功应用于单标签学习等场景，为处理各类数据中的不确定性提供了支持。例如，Wang和Wang（2023）将信念函数和合理性函数引入特征选择算法，提高了该方法对噪声的抵御能力，包括缺失值和混乱数据；Zhang和Li（2022）开发了一种基于D–S证据理论的集值数据属性约简方法，利用信念函数和合理性函数来衡量不确定性，从而有效减少冗余属性；Zhou等人（2022）提出了一种基于D–S证据理论的新特征排序算法，旨在从在线产品评论中识别和提取关键特征。然而，很少有研究将D–S证据理论应用于部分标签异构数据的属性约简。正因如此，本文将该理论应用于部分标签异构数据的属性约简场景，将其在不确定性量化方面的优势与加权邻域粗糙集模型相结合，从而实现了对部分标签异构数据的属性约简和分析优化。

属性约简，或称特征选择（Li等人，2017），作为弱监督学习和复杂数据分析中的重要降维技术，近年来受到了众多研究者的关注。它的目标是识别与标签高度相关的属性， thereby降低特征维度（Thangavel和Pethalakshmi，2009），提高分类性能（Miao等人，2009）并简化数据表示（Parthalain等人，2010）。这种方法不仅能够减轻高维冗余的影响，还广泛应用于数据挖掘（Jing等人，2018）、模式识别（Liu等人，2023）和机器学习（Yao和Zhao，2008）等领域。近年来，部分标签学习场景下的特征选择越来越受到重视，学者们也开展了大量研究工作。例如，Li等人（2025）通过模糊邻域开发了一种基于标签迭代消歧的部分标签特征选择方法；Qian等人（2023）提出了一种基于消歧的部分标签特征选择算法，该算法结合了粒状球计算和邻域粗糙集，并以特征依赖性和标签一致性为指导；Ding等人（2024）引入了一种基于标签消歧和邻域互信息的部分标签特征选择算法；Qian等人（2024a）提出了一种基于模糊依赖性和特征可区分性的、用于部分标签学习的基于标签消歧的特征选择方法。上述研究取得了显著进展，推动了部分标签学习中标签消歧和属性约简技术的发展。表1总结了本文研究与近期属性约简研究的对比情况。

在属性约简问题中，不同的属性在决策过程中往往起着不同的作用。然而，邻域粗糙集在计算样本相似性和构建邻域时通常对所有属性一视同仁，即采用等权重分配策略。这种方法可能会削弱关键属性的作用，同时在一定程度上放大冗余或噪声属性的影响。因此，在邻域粗糙集框架下合理量化属性重要性已成为一项研究课题。为解决这一局限性，本文为每个属性分配权重以构建邻域关系，定义了加权下近似和加权上近似，进而建立了加权邻域粗糙集模型。该模型通过为不同属性赋予不同权重来区分它们，突出关键属性的重要性。利用加权邻域粗糙集模型上的邻域关系直接从数据中计算基本概率分配，可以降低那些完全依赖专家经验的传统方法的主观性。此外，样本子集在加权下近似和加权上近似中所占的比例分别构成了该样本子集的信念值和合理性值。因此，D–S证据理论可以用来描述加权邻域粗糙集模型中的不确定性，并对其不确定性进行数值化测量。这表明加权邻域粗糙集模型可以与D–S证据理论很好地结合。两者之间的联系主要体现在理论互补性和流程耦合性两个方面：前者擅长从数据中挖掘客观规律（提取权重），后者则擅长衡量数据的不确定性（做出决策）。因此，将二者结合起来可以作为数据的属性评估函数。

在部分标签学习的研究与应用中，标签消歧是一个核心且关键的步骤。由于部分标签数据中每个样本的候选标签集包含一个真实标签和多个错误标签，这类数据无法直接用于模型训练。因此，必须采用标签消歧技术从候选标签集中筛选出最可能的真实标签，或者量化每个候选标签的置信度，从而实现对标签信息的精细化处理。值得注意的是，我们在实验中使用的数据集都是通过在原始UCI单标签数据中插入额外的错误标签而合成生成的。我们设计了两种类型的部分标签生成规则，即均匀标记规则和非均匀标记规则，具体内容将在后文详细介绍。在这些合成数据中，所有样本的真实标签都是固定且已知的，而模糊的候选标签则是人为引入的，而非来自现实世界数据集的天然不确定标签。因此，我们采用标签置信度预测方法来实现标签消歧：将所有部分标签数据转换为预测出的单标签数据集，然后利用这些转换后的单标签数据集来执行后续的属性约简任务。

基于以上考虑，本文提出了一种基于标准差的属性权重分配方法，用于衡量属性的重要性，并将其纳入邻域构建过程中，使得在计算样本相似性时不同属性能够发挥不同的作用。同时，针对部分标签学习中的标签消歧问题，本文引入了标签置信度的概念，即某个候选标签作为真实标签的可信度。具体而言，通过统计分析候选标签在邻域内的出现频率，可以构建出一个关于候选标签的置信度分布。然后选取置信度最高的标签作为弱监督信号，而置信度最高的标签则被视为后续属性约简的预测标签。这样一来，标签置信度不仅反映了不同候选标签的相对可靠性，还在消歧过程中突出了更有可能的真实标签，从而有效抑制了冗余或噪声标签的影响。基于上述动机，本文的工作总结如下：(1) 基于标准差的加权邻域粗糙集模型。该模型能够量化属性重要性，并将其纳入邻域相似性计算之中。所提出的模型消除了等权重假设带来的缺陷，并在构建邻域时考虑了不同属性的不同贡献。(2) 提出了LCP方法。对于每个样本，我们根据邻域标签分布计算候选标签的置信度分布，然后选择置信度最高的标签作为预测标签。这一机制明确了标签选择标准，为后续的属性约简和分类提供了更可靠的监督。(3) 结合D–S证据理论进行属性约简。在D–S证据理论框架下整合来自不同来源的信息，以实现更可靠的推理和决策。基于λ-信念函数和λ-合理性函数构建了两种属性约简算法。在16个合成数据集上进行的实验表明，这两种算法具有良好的分类性能。本文中使用的所有符号总结在下表中（见表2）。本文的其余内容安排如下：第2节介绍PLHD和D–S证据理论的相关概念；第3节提出用于PLHD的WNRS模型；第4节提出LCP方法；第5节基于D–S证据理论为PLHD构建属性约简的评估指标；第6节介绍两种约简算法；第7节报告并分析实验结果；第8节进行一些讨论；第9节给出结论性意见。图1展示了本文的流程图。

初步知识
此处概述了与D–S证据理论和PLHD相关的一些基本概念。设Z={z1,z2,…,zn}为一个有限集合，Z的所有子集构成的族记为2Z，对于每个X∈2Z，|X|表示其基数。定义p(X)=|X||Z|=|X|n。

用于PLHD的WNRS模型
在本节中，我们通过为每个属性赋予标准差权重并构建邻域关系，来引入用于PLHD的WNRS模型。

定义3.1
设(Z,A,d)为一个PLHD。对于A中的某个a，定义σa=1n∑i=1n[a(zi)??1n∑j=1na(zj)?]2。显然，0≤σa≤1。属性a的标准差σa反映了该属性在所有样本中的变化程度。较大的σa意味着所有样本在该属性上的变化更为显著。

定义3.2
设(Z,A,d)为一个PLHD。

用于PLHD的标签置信度预测方法
本节提出了一种标签置信度预测方法（LCP方法），通过标签置信度水平推断最可能的真实标签，从而有效解决标签歧义问题，为后续的属性约简提供更可靠的监督信号。

定义4.1
对于PLHD (Z,A,d)，设d:Z→2L，其中Z={z1,z2,…,zn}是训练样本集，L={l1,l2,…,lq}是标签集。对于任意i，假设d(zi)={lk1,lk2,…,lks}。定义dj(zi)=1，当j∈{k1,k2,…,ks}时；否则为0。设D={d1,d2,…,B}。

通过预测标签得到的PLHD的信念与合理性映射
定理5.1
设(Z,A,d)为一个PLHD。将Z视为一个辨识框架。给定B?A且λ∈[0,1]。对于任意X∈2Z，定义ω-BelBλ(X)=p(ω-Bλ?(X))，ω-PlBλ(X)=p(ω-Bλˉ(X))。那么ω-BelBλ和ω-PlBλ可分别视为相对于B和λ的加权信念映射和合理性映射，而相应的加权BPA可表示为ω-mBλ(Y)=p(ω-jBλ(Y))，对于所有Y∈2Z，其中ω-jBλ(Y)={z∈Z:ω-Bλ(z)=Y}。

证明
详见“附录”。□

定理5.1表明，加权邻域被视为确定性映射。

通过预测标签对PLHD进行信念与合理性属性约简
定义6.1
设(Z,A,d)为一个PLHD。给定B?A且λ∈[0,1]。
(1) 如果ω-Bλ=ω-Aλ，则称B为A的一致集。
(2) 如果对于所有i，都有ω-BelBλ(Diλ)=ω-BelAλ(Diλ)，则称B为相对于λ通过预测标签得到的A的信念一致集。
(3) 如果对于所有i，都有ω-PlBλ(Diλ)=ω-PlAλ(Diλ)，则称B为相对于λ通过预测标签得到的A的合理性一致集。相对于λ的所有A的一致集构成的族记为coλ(A)，而所有信念一致（或合理性一致）的A的集合构成的族分别为……

实验分析及结果
本节介绍了实验分析及相应结果。

讨论
本节从异构属性处理、实验设置和算法复杂度等方面阐述所设计算法的合理性，并指出其局限性。
•异构属性的量化：尽管序数型和名义型属性本质上缺乏数值特性，但本文遵循现有文献中的常见做法，为这两类属性赋予数值，使其能够被计算机处理。

结论
为有效处理PLHD，本文引入了标准差概念来衡量属性的标准差权重，并构建了WNRS模型。该模型有效克服了传统方法中等权重假设的局限性。针对样本中的标签候选集，我们提出了LCP方法，实验结果验证了LCP方法在标签预测任务中的可行性和有效性。此外，本文还运用了信念函数和合理性函数……

CRediT作者贡献声明
李兆文：写作——审稿与编辑、方法论、形式化分析。农玉梅：写作——初稿撰写、方法论、研究。薛光明：写作——审稿与编辑、研究、形式化分析。林永华：写作——初稿撰写、方法论、研究。林宁：方法论、研究、数据整理。

利益冲突声明
作者声明不存在任何可能影响本文工作的已知财务利益或个人关系。

致谢
作者感谢编辑和匿名审稿人提出的宝贵意见和建议，这些意见对提升论文质量起到了重要作用。本研究得到了国家自然科学基金（12361092）的支持。

李兆文|农玉梅|薛光明|林永华|林宁
中国广西南宁市南宁大学信息工程学院，邮编530200