《Mathematics》:A Maximal Consistent Block-Based Variable Precision Rough Set Method for Dimensional Reduction of Continuous Single-Label and Multi-Label Data
编辑推荐:
为解决连续单标签和多标签数据的降维问题,本文提出一种基于最大一致块(Maximal Consistent Block, MCB)的改进变精度粗糙集方法(Variable Precision Rough Set, VPRS)。研究人员将降维形式化为连续决策信息系
为解决连续单标签和多标签数据的降维问题,本文提出一种基于最大一致块(Maximal Consistent Block, MCB)的改进变精度粗糙集方法(Variable Precision Rough Set, VPRS)。研究人员将降维形式化为连续决策信息系统(Decision Information System, DIS)中的属性约简问题,构建基于距离的容差关系(Distance-based Tolerance Relation),并设计基于枢轴Bron–Kerbosch最大团挖掘(Pivoted Bron–Kerbosch Maximal Clique Mining)的最大一致块生成算法,用于直接建模连续数据。研究人员建立广义变精度粗糙集模型,定义单标签和多标签场景下的β-近似集(β-approximation sets)和分布约简目标(Distribution Reduction Objectives),分析过程的阶段复杂度(Stage-wise Complexity),将多项式阶段与输出敏感枚举阶段分离,并开发基于可辨识矩阵(Discernibility Matrix)的约简算法。在14个公开基准数据集上,与7个基线方法在Equal-d(固定特征数)和Nested-d(训练分区调优)协议下进行实验,结果表明所提方法在Equal-d下获得最低平均排名,Friedman检验显示方法间存在整体差异,Holm调整的Wilcoxon比较确认其对MCLS和邻域粗糙集依赖基线(Neighborhood Rough-Set Dependency, NRS-Dep)具有显著优势;在Nested-d下,与MCLS的比较在Holm调整后仍显著。参数敏感性分析、距离度量比较、消融研究和资源审计进一步证实了该方法的鲁棒性和可行性。
**论文解读:基于最大一致块的变精度粗糙集方法用于连续单标签和多标签数据降维**
**研究背景与问题**
在数据驱动的智能系统时代,文本分类、图像标注和生物信息学等领域常涉及多标签学习,即单个样本关联多个语义标签。相比单标签学习,多标签学习更准确反映数据内在属性,但高维特征空间和标签间的复杂依赖导致“维数灾难”,使模型训练效率低下且泛化性能下降,亟需有效的降维方法。降维包括特征选择和特征提取两类。特征选择因保留原始物理语义而广泛用于医学诊断等可解释性场景,但处理连续多标签数据时需离散化预处理,造成信息损失,且难以充分捕捉多标签间的协同依赖。特征提取虽能有效降低维度,但高计算复杂度限制了其在连续高维数据中的实用性。从理论视角,多标签连续数据降维可自然框架化为决策信息系统中的属性约简问题,即粗糙集理论(Rough Set Theory)中寻找保持决策信息的最小条件属性子集。传统粗糙集基于等价关系,仅适用于离散符号数据。尽管已发展出邻域粗糙集、模糊粗糙集等扩展模型,其粒化范式(如邻域球、模糊相似关系)以对象为中心,且约简目标通常为对象级(如保持正区域或依赖度),不约束每个知识颗粒承载的类分布。相比之下,本研究采用的最大一致块(Maximal Consistent Block, MCB)要求成员对象间成对一致且满足极大性,对应容差图中的最大团,无需中心-半径表示;其分布级约简目标要求保留每个非冗余知识颗粒的广义决策分布,参数β容忍颗粒内一定比例误分类,对噪声连续数据尤为重要,且通过标签包含度(Label Inclusion Degree)自然扩展到多标签场景。然而,现有基于最大一致块的变精度粗糙集模型[24]针对不完备离散数据,其容差关系基于“相等或缺失”逻辑,无法量化连续空间中的对象差异,不能直接用于连续数据属性约简。因此,有必要改进该模型以适用于连续数据。
**研究内容与结论**
为此,研究人员探索标签学习与决策信息系统的内在联系,将连续单标签/多标签数据降维转化为连续决策信息系统中的属性约简问题。主要贡献包括:(1)针对经典粗糙集模型依赖离散化及现有最大一致块变精度模型[24]的近似和约简目标基于离散逻辑的局限,构建基于距离容差关系的最大一致块计算框架,涵盖数据预处理、容差矩阵构建和最大团挖掘的完整算法流程,实现连续数据直接建模,并结合变精度粗糙集容错思想,建立适用于连续数据的分布级约简目标广义模型,提升降维任务对噪声样本的适应性。(2)为单标签和多标签降维任务构建统一的分布级约简目标,分别定义β-上近似、β-下近似和分布一致集,基于可辨识矩阵原理和布尔函数简化,设计能去除冗余特征同时有效保留分类信息和标签相关性的约简求解算法。(3)在14个公开基准数据集(涵盖低维单标签、密集多标签、稀疏高维及连续真实任务)上,与7个特征选择基线(包括邻域粗糙集依赖方法)比较,采用Equal-d和Nested-d评估协议,分析主性能、跨数据集统计、计算资源、距离度量、参数选择模式及组件消融。实验表明,所提方法在Equal-d下获得最低平均排名,Friedman检验显示方法间整体差异,Holm调整的Wilcoxon比较确认其对MCLS和NRS-Dep显著优势;在Nested-d下对MCLS仍显著。参数敏感性、距离度量比较、消融研究和资源审计进一步证实鲁棒性和可行性。论文发表在《Mathematics》。
**主要关键技术方法(不超过250字)**
研究人员采用以下关键技术:基于2-范数的距离容差关系(Distance-based Tolerance Relation),定义连续信息系统中对象间的相似性;基于枢轴Bron–Kerbosch最大团挖掘(Pivoted Bron–Kerbosch Maximal Clique Mining)的最大一致块生成算法,从连续数据中直接提取非冗余知识颗粒;广义变精度粗糙集模型(Generalized Variable Precision Rough Set Model),含悲观和乐观两种β-下近似及β-上近似;分布级约简目标(Distribution Reduction Objectives),要求每个最大一致块对决策类或标签的支持比例在约简前后一致;基于可辨识矩阵的约简算法(Discernibility Matrix-based Reduction Algorithm),通过布尔函数简化求取所有约简。样本队列来源于14个公开基准数据集,包括UCI数据库(Dry Bean、Glass Identification、Iris、Leaf、Wine)和MULAN库(Bibtex、Corel5k、Delicious、Emotions、Enron、Mediamill、Scene、TMC2007、Yeast)。
**研究结果**
**4.1 实验设置**:研究采用5折交叉验证,k近邻分类器(k=10),单标签数据集用Accuracy和Macro-F1,多标签数据集用Accuracy、Macro-F1、Micro-F1和Hamming Loss。参数选择通过内部3折交叉验证,β从{0.85, 0.90, 0.95}、γ从{0.05, 0.10, 0.15}选择,特征数在Equal-d下固定为20,在Nested-d下从候选集选择。结果显示,γ=0.05是25个数据集-协议设置中的众数选择,β值覆盖整个候选集。
**4.2 主实验结果**:在Equal-d协议下,所提方法在5个单标签数据集上Macro-F1和9个多标签数据集上Micro-F1多数达到最优或次优,平均排名最低;在Nested-d下性能稳定。具体表格显示,在如Iris、Wine等小数据集上,所提方法常获最高分;在Mediamill等大数据集上表现良好。
**4.3 统计显著性检验**:Friedman检验显示Equal-d下方法间存在整体差异(p=0.01261),Holm调整的Wilcoxon比较确认所提方法对MCLS(p=0.000854,12胜/0平/2负)和NRS-Dep(p=0.0232,10胜/1平/3负)显著;Nested-d下对MCLS仍显著(p=0.0120,11胜/0平/3负)。平均排名Equal-d下为2.89,Nested-d下为3.15,均最低。
**4.4 运行时间与可扩展性**:最大一致块数量在33–2411之间,团枚举时间最长0.14秒,总拟合时间从0.03秒(Iris)到22.12秒(Leaf),表明后续块统计、可辨识子句和包含最小击中集计算占较大成本。峰值内存183–469 MiB,不随块数单调增加。
**4.5 度量设置与参数敏感性分析**:采用欧几里得距离,容差阈值γ基于训练分区成对距离的经验分位数。参数选择分析显示,γ=0.05为主要选择,β选择多样,Nested-d下特征数在13个数据集上变化,Iris上始终为20。表明参数自适应于数据集特性。
**4.6 距离度量比较**:比较欧几里得、曼哈顿和余弦距离。欧几里得距离平均排名1.5357,在14个数据集上10个获得最高或并列最高得分,曼哈顿为2.0357(4个最佳),余弦为2.4286(1个最佳)。欧几里得稳定性最佳,故被采用为主设置。
**4.7 消融研究**:比较完整配置(Full)、去除结构项(Structure-removed)和去除相关性项(Relevance-removed)的配置。在Equal-d下,Full对Structure-removed为11胜/0平/3负,对Relevance-removed为10胜/0平/4负;Nested-d下分别为8胜/0平/6负和10胜/0平/4负。平均差异为正,表明结构证据和标签相关性均贡献平均收益,但效应因数据集而异。
**总结与讨论**
研究人员在讨论部分总结指出,所提方法在连续单标签和多标签数据降维中有效,通过距离容差关系直接建模连续数据,避免离散化信息损失,变精度机制提供噪声容错,分布级约简目标保留标签相关性。实验验证了其在14个数据集上的优势。未来工作将扩展至缺失标签场景、轻量化优化策略(如通过分位数阈值控制容差图密度、采用枢轴优化Bron–Kerbosch枚举和退化排序、开发近似块生成方案)、动态增量连续多标签数据降维,以及探索在智能系统(如异构车辆队列、多智能体协同控制)中的应用。
**研究结论翻译**:
连续单标签和多标签数据的降维是模式识别和机器学习中关键且具挑战性的任务。针对现有基于粗糙集的降维方法在连续数据处理中的不足,本文提出一种基于最大一致块和变精度粗糙集的新型降维方法。所提方法通过距离容差关系直接从连续数据构建最大一致块,避免了离散化预处理造成的信息损失。通过引入变精度近似机制,模型对噪声样本具有良好的容错性。此外,为单标签和多标签场景建立了统一的分布级约简目标及相应的可辨识矩阵求解算法。在14个评估数据集上,所提方法在Equal-d下获得最低平均排名,Friedman检验显示方法间存在整体差异,Holm调整的Wilcoxon比较确认其对MCLS和NRS-Dep显著优势;在Nested-d下,与MCLS的预定比较在Holm调整后仍显著。最大一致块枚举和包含最小击中集搜索构成过程的输出敏感阶段;第4.4节的资源审计报告了其观察到的计算范围。