基于证据推理规则且考虑不可区分样本数据的粗细分类器

《Neurocomputing》：Coarse-fine Classifier via Evidential Reasoning Rule Considering Indistinguishable Sample Data

　　郭浩浩|徐晓斌|常蕾蕾|马峰|陈宇旺|陶志刚中国浙江省杭州市310018，杭州电子大学自动化学院摘要数据分类器的目标是将类别未知的样本数据分配到具有特定类别标签的类别中。由于样本数据分布的复杂性以及属性之间的相关性，不同类别的样本数据在属性空间中不可避免地会部分或完全重叠。这些位于重叠区域的无法区分的样本是导致误分类的重要原因。为了解决这一问题，本文提出了基于证据理论框架下的一种新的粗细分类器，该分类器采用证据推理规则。首先，在预分类阶段，设计一个粗分类器来初步分类，以识别属性空间中的无法区分样本，然后提出一种重标记策略，通过为这些样本赋予具有一定置信度的非唯一标签来衡量其不确定性。其次，在正式分类阶段，设计一个细分类器，将无法区分样本及其他正常样本数据作为多条证据进行统一且精细的建模。利用证据推理规则将这些被激活的证据结合在一起，其固有的正交和运算能够使综合置信度集中在真实类别标签上，从而降低误分类率。最后，通过在基准数据集和齿轮箱故障诊断应用上的实验，验证了该方法的有效性和优越性。引言分类在许多实际应用中起着重要作用，如故障诊断[1]、行为识别[2]以及医疗决策[3]。在理想情况下，分类器可以通过训练数据集优化参数，准确识别并映射样本数据与类别标签之间的内在关系，从而实现精准分类[4]。然而，在现实世界中，数据采集过程会受到传感器误差、测量噪声以及人为操作失误等多种因素的影响，导致收集到的样本数据偏离其真实状态[5]、[6]。这些因素共同作用于数据的属性和结构，增加了样本数据的不确定性。从不确定性建模的角度来看，这种不确定性既源于不同类别样本之间固有的属性重叠，也源于分类器对类别边界认知的不足。前者通常被称为随机不确定性，而后者则称为认知不确定性[7]。这两种类型的不确定性往往相互关联，从而导致不同类别样本之间难以区分的问题。如图1所示，A类和B类样本数据在属性空间中的分布直观地展现了这种无法区分的现象。图中的深黄色和深蓝色区域通常被称为“易于区分的样本区域”。由于这些区域内的样本在属性上存在明显差异，因此很容易被分类器准确识别，这使得大多数分类器能够获得理想的分类结果。相反，图中的中心部分，即浅黄色和浅蓝色区域，则构成了所谓的“样本数据重叠区域”。由于这些类别之间的样本在属性上存在重叠且相似，因此很难有效区分，呈现出明显的模糊性和不可分性。图中的红色虚线代表分类器所确定的决策边界线。然而，这条曲线无法完全准确地区分这两类样本。例如，样本对{x1, x2}和{x3, x4}在属性空间中几乎重叠。如此高的相似度使得即便是复杂的分类模型也难以正确区分它们。但需要强调的是，重叠区域内的样本并非完全重叠（即并非无法区分的样本），比如属于A类的x6、x9、x10、x12以及属于B类的x5、x7、x8、x11、x13。毫无疑问，如何提高对这些无法区分样本的识别能力，是决定分类器性能的关键。换句话说，分类器的竞争力主要体现在对无法区分样本的正确分类上。在这种情况下，有必要对无法区分样本进行更精细的分析和处理，以提高分类性能。在现有的研究中，已经广泛探索和应用了多种分类方法[8]、[9]、[10]。Sihag等人结合真实数据与专家知识，构建了贝叶斯网络模型，用于对老年人跌倒风险进行分类和预测[11]；Cai等人提出了一种集成随机森林算法的方法，旨在准确分类和识别七种人类动作模式，包括在平地上行走、坐着、站立、爬楼梯、下楼梯、上坡以及下坡[12]。Baek等人设计了基于支持向量机的肝脏疾病分类方法，该方法通过H扫描分析、衰减估计以及B模式图像分析从超声信号中提取特征，以区分四种肝脏疾病：正常、脂肪变性、纤维化以及肿瘤[13]。尽管这些传统分类方法各具特色，但它们都遵循一种基本的处理范式：采用统一的“一步法”策略处理样本数据，试图为整个属性空间构建单一的全局决策边界。这种范式的核心理论瓶颈在于其粗粒化的特性：由于将所有样本视为同质，它忽视了无法区分样本之间细微的类别差异所包含的重要信息。这些全局模型并未对重叠区域进行专门分析，因此本质上无法充分挖掘和利用那些对解决该区域分类歧义至关重要的细微差异，这直接加剧了分类的不确定性和错误率。为了解决上述问题，本文提出了一种基于德普斯特-沙弗证据理论的“逐步”策略，该策略结合了粗分类器和细分类器。首先，使用粗分类器对样本数据进行初步分类，从而确定属性空间内的总体分布趋势。被粗分类器误分类的样本被视为无法区分样本，此时采用重标记策略，为它们赋予具有一定置信度的非唯一标签。需要注意的是，重标记也被用于谨慎分类中[14]，其目的是输出一部分类别以避免做出有风险的决策。而此处的重标记并非为了生成集合值输出，而是为了产生具有子集置信度的证据。此外，还设计了一个细分类器用于深入分析和分类。具体而言，当一个样本的真实类别为A，但由于属性重叠或噪声干扰而被粗分类器错误地识别为B时，该样本就被视为无法区分样本。这类样本的分类不确定性可以用包含一定置信度的子集{A, B}来描述，此处将{A, B}视为非唯一标签，以体现类别边界的模糊性。这种对不确定性的考虑为无法区分数据的建模提供了新视角，即在处理无法区分样本时，不仅需要考虑它们的实际类别，还需考虑它们可能的类别。实际上，具有某种置信度的非唯一标签本身就是德普斯特-沙弗证据理论中的证据的一部分。因此，应当考虑相应的证据推理规则，将来自不同属性的多条证据结合起来，从而做出分类决策[15]、[16]。与传统分类方法相比，证据推理规则能够更详细地捕捉样本与类别之间更为复杂的关系。这种表示方法不仅反映了样本之间的直接关联，还体现了样本与多个类别之间的关联，为解决无法区分样本的问题提供了更合适的方法。同时，对于分配给无法区分样本的子集置信度，证据推理规则固有的正交和融合机制能够使其置信度趋向于真实类别[17]。例如，当一个样本数据的真实类别为A，且有两条证据{A}和{A, B}通过证据推理规则被融合时，由于两者都包含支持命题A的置信度，因此基于该规则的融合结果将会集中在A上。然而，现有的基于证据推理规则的分类方法主要是以“一步法”来模拟样本的不确定性，试图以置信度分布的形式统一描述每个单独的命题[18]、[19]。本质上，这种方法仍然是一种粗略的分类策略，在处理样本数据时往往只能给出一个整体的分类结果，缺乏对无法区分样本中细微差异的深入分析和处理。为克服这些局限性，本文提出了一种基于证据推理规则的粗细分类器（逐步）设计方法。首先，在预分类阶段，构建参考证据矩阵作为粗分类器，该矩阵存储了样本与类别之间的关联信息，用于筛选出无法区分样本。对于被粗分类器误分类的样本，本文在证据理论框架下设计了一种重标记策略，为这些样本赋予具有一定置信度的非唯一标签。在正式分类阶段，当获取到待分类的在线样本后，通过激活细分类器中的参考证据，获得包含子集置信度分布的细粒度证据。接着，利用证据推理规则在不同属性下融合这些细粒度证据。证据推理规则固有的正交和机制能够确保对应于非唯一标签的子集置信度聚焦于其真实类别。此外，还采用了基于连续有序加权平均算子的决策概率转换方法，对融合后的细粒度证据进行重新分配，从而得出最终的分类决策。所提出方法的主要贡献可总结如下：(1) 设计了一种结合粗细分类器的分类方法，其中粗分类器用于预分类以筛选出无法区分样本，而细分类器则基于这些样本进一步构建，以提高分类精度。(2) 提出了一种创新的重标记策略，将被粗分类器误分类的样本重新定义为包含其实际类别和误分类类别的非唯一标签，以此描述无法区分样本的不确定性。(3) 利用证据推理规则固有的正交和融合机制，使对应于非唯一标签的子集置信度进一步聚焦于真实类别，有效降低了分类过程中的不确定性影响。(4) 采用基于连续有序加权平均算子的决策概率转换方法，对融合后的细粒度证据进行重新分配，从而实现更准确、更可靠的分类决策。最后，通过在对基准数据集以及用于故障诊断的齿轮箱数据集进行的分类实验，将所提出的方法与传统的分类方法进行了比较。实验结果表明，所提出的方法具有更高的分类精度。本文的其余结构如下：第2节介绍一些基本理论；第3节阐述基于证据推理规则的粗细分类器的设计流程；第4节利用典型的基准数据集和真实的故障诊断数据集验证所提出方法的性能；第5节对本文进行总结。证据的理论基础德普斯特在20世纪60年代首次提出了德普斯特-沙弗证据理论，随后沙弗在70年代对其进行了系统的发展[20]、[21]。德普斯特-沙弗证据理论的基本概念简要介绍如下[22]、[23]。定义1 辨别框架辨别框架Θ是一组非空且有限的互斥元素，代表了所有可能的命题或状态。对于给定的辨别框架Θ={F1,F2,…,Fn}，其幂集2Θ包含了Θ的所有子集。基于证据推理规则的粗细分类器设计在本节中，我们将详细探讨如图3所示的基于证据推理规则的粗分类器与细分类器的构建过程。整个过程分为两个阶段：预分类阶段和正式分类阶段。预分类阶段的目的是通过构建粗分类器，识别属性空间中的无法区分样本。正式分类阶段则是在包含这些样本的训练数据集上进一步构建细分类器。实验与应用为验证本文提出的粗分类器和细分类器的有效性，本节设计并实现了若干对比实验。首先，选取多个经典的UCI数据集（基准数据集）来进行分类性能评估。通过与现有的典型分类方法进行对比分析，突出了所提分类器的性能优势。其次，将这些分类器应用于实际的故障诊断场景中。结论在本文中，我们提出了一种基于证据推理规则的粗细分类器设计方法，旨在挖掘无法区分样本中所包含的重要信息，从而提高分类精度。首先，在预分类阶段，会构建一个粗略的参考证据矩阵（即粗分类器），用以筛选出入侵检测系统，从而为精细分类器的工作奠定基础。对于在粗分类过程中被选中的入侵检测系统，我们设计了重新标记策略。

CRediT作者贡献声明：
郭浩浩：写作——审稿与编辑，写作——初稿撰写，指导，方法论，研究设计，形式分析，概念构建。徐晓斌：写作——审稿与编辑，写作——初稿撰写，软件，数据整理。常蕾蕾：写作——审稿与编辑，方法论，研究设计。马峰：方法论，研究设计。陈宇旺：写作——审稿与编辑，研究设计。陶志刚：研究设计，数据整理。

利益冲突声明：作者声明不存在任何可能影响本文研究成果的已知财务利益或个人关系。

致谢：我们感谢浙江省“先锋”和“领头雁”研发计划（编号2026C02A1227、2025C04005、2024C03254）、国家自然科学基金（72471067）以及浙江省市场监督管理局科技项目（LY2026009）的财政支持。

郭浩浩于2019年在中国湖北荆楚理工学院的电气工程学院获得工学学士学位，目前就读于杭州电子科技大学自动化学院，攻读博士学位。他的研究兴趣包括故障诊断、智能医疗以及信息融合技术。