《Expert Systems with Applications》：Multi-Label Feature Selection via Non-Additive Fusion of Embedded and Spectral Evidence
编辑推荐：
多标签特征选择（Multi-Label Feature Selection, MLFS）是处理标签间存在复杂相互依赖关系的高维数据集的关键任务。嵌入式方法通过结构化稀疏性优化预测性能，能够有效识别判别性特征，但往往忽略标签空间的底层拓扑结构。相反，谱方法通过相
多标签特征选择（Multi-Label Feature Selection, MLFS）是处理标签间存在复杂相互依赖关系的高维数据集的关键任务。嵌入式方法通过结构化稀疏性优化预测性能，能够有效识别判别性特征，但往往忽略标签空间的底层拓扑结构。相反，谱方法通过相似性结构捕获标签相关性，但缺乏对预测的直接优化。为弥合这一鸿沟，本文提出了CFIFS（Choquet Fuzzy Integral Feature Selection，Choquet模糊积分特征选择）框架，将MLFS建模为非加性的、得分级信息融合问题。所提出的流程整合了两个互补视角：一个用于预测相关性的组稀疏嵌入式得分，以及一个结合Dirichlet光滑性和希尔伯特-施密特独立性准则（Hilbert-Schmidt Independence Criterion, HSIC）的谱得分，用于拓扑一致性。CFIFS没有采用传统的加性聚合，而是使用双源Choquet模糊积分来融合这些排名。模糊容量通过自动化数据驱动过程学习，使框架能够自适应地权衡输入得分之间的协同或冗余。此外，该模型提供了一个可解释的交互指数，用于量化预测证据与拓扑证据之间的关系。在20个基准数据集上的大量实验表明，CFIFS显著优于七个最先进的MLFS基线。通过Friedman和Holm检验进行的严格统计验证，证实了所提出的融合方法在不同应用领域中的鲁棒性和优越的泛化能力。
论文解读：多标签特征选择中的非加性融合框架CFIFS
多标签学习（Multi-Label Learning, MLL）中，每个实例可同时关联多个标签，标签间的共现依赖蕴含结构信息。随着特征维度增长，不相关或冗余特征会增加计算开销、削弱泛化能力，因此多标签特征选择（Multi-Label Feature Selection, MLFS）旨在生成紧凑的特征排序或子集。现有MLFS方法中，嵌入式方法通过结构化稀疏性优化预测性能，但往往忽视标签空间的拓扑结构；谱方法能捕获标签相关性，却缺乏对预测目标的直接优化。尽管已有聚合式或集成式MLFS研究，但多数采用加性、序统计或距离机制，未能显式建模互补评分通道间的交互效应。为弥补这一缺口，研究人员提出了CFIFS（Choquet Fuzzy Integral Feature Selection）框架。
CFIFS将MLFS视为非加性得分级信息融合问题，通过双源Choquet模糊积分融合嵌入式评分与谱评分，自动学习模糊容量并提供可解释的交互指数。在20个基准数据集上的实验表明，CFIFS在七个评估指标上均取得最佳平均排名，显著优于七个先进基线。该工作发表于《Expert Systems with Applications》，为MLFS提供了一种超越传统加性聚合的新设计空间。
关键技术方法方面，CFIFS包含两个互补评分阶段和一个数据驱动融合阶段。嵌入式评分基于?2,1组稀疏回归与PLST标签嵌入，结合逆频率实例加权产生预测相关性得分；谱评分基于Jaccard标签亲和图的Dirichlet光滑性与希尔伯特-施密特独立性准则（HSIC）产生拓扑一致性得分。两阶段得分经经验CDF秩归一化后，通过双源Choquet模糊积分融合。模糊容量由内层交叉验证循环学习，以几何均值（GM）准则选择，使融合行为自适应数据集。实验样本源自20个公开基准数据集（包括MULAN和Yahoo语料库），涵盖文本、图像、音频和生物学领域。
研究结果如下：
消融研究（Ablation study）：通过两重消融验证了融合的必要性。删除谱通道后，Micro-F1与Macro-F1显著下降（Holm p<3×10??）；与Min-Max归一化相比，秩归一化的Choquet融合统计上更优，非参数排序有助于保护少数类。学习容量相比固定算术平均和加性容量，在源不对称时能主动抑制弱通道，如Yelp、Genbase和Medical上恢复接近优通道的性能。
参数分析（Parameter Analysis: Interpreting the Fuzzy Measure）：通过交互指数I=1?μe?μs可解释融合行为。20个数据集中有9个|I|≥0.15，表明非加性组合的普遍性。Arts和Yeast呈协同（I=+0.18），Yelp呈析取（I=?0.24）；嵌入通道平均容量（0.59）高于谱通道（0.47），但在Human、Flags等数据集上谱通道成为主要贡献者。
敏感性分析（Sensitivity analysis）：内层CV采用GM准则，平衡Micro-F1与Macro-F1，避免单一指标偏置。暴露的内层超参数（ML-kNN邻域k、验证范围pfrac）在宽范围内呈现平台稳定；固定超参数（如HSIC-光滑性混合αS、回归-逻辑混合α、组稀疏强度βsp、容量网格分辨率Δμ）同样不敏感，表明默认配置可跨数据集通用。
鲁棒性分析（Robustness to contaminated features and label noise）：在特征置换（20%/40%）和标签翻转（10%/20%）扰动下，学习容量能识别并抑制受损通道。20%标签噪声时，CFIFS保留性能（Micro-F1 0.485，Macro-F1 0.306）优于固定均值（0.441/0.240）和单通道；在Genbase上抑制被噪声破坏的谱通道，在Medical上转向谱通道，展示了固定规则无法实现的适应性。
主要比较（Main comparison）：在p=20%预算下，CFIFS在Micro-F1（平均秩1.55）、Macro-F1（1.80）和Hamming Loss（2.00）上均获最佳平均排名，对七个基线所有21个Holm校正p值均小于0.02。在特征预算轨迹（5%–50%）中，CFIFS在紧预算（p≤15%）下优势明显，且随预算增加保持领先。
跨下游分类器泛化（Generalisation across downstream classifiers）：使用BR逻辑回归和随机森林评估，CFIFS的排序质量具有鲁棒性。当内层CV准则与目标分类器对齐时，CFIFS在线性分类器下也显著优于所有基线（平均秩1.77/1.93/2.67），表明容量学习可适应排名消费方。
更高维基准扩展（Extension to higher-dimensional benchmarks）：在Bibtex、Enron、Corel5k及五个Rcv1子集（d=10,000）上，CFIFS取得第二平均排名，与最强稀疏回归基线RFSFS、SRFS统计无差异，且优于崩溃的图/NMF方法。PLST嵌入秩需按标签数调整（r=min(200,L)），通道分析确认该调整作用于嵌入式评分器而非融合阶段。
结论部分指出：本文介绍了CFIFS，一种通过双源Choquet积分融合嵌入式与谱评分通道的多标签特征选择框架。通过基于秩的归一化，框架将异质得分分布映射到公共尺度；通过内部交叉验证学习非加性容量，适应通道间协同或冗余，并提供可解释交互指数。在20个基准上的实验表明，CFIFS在所有七个指标上取得最佳平均排名，且具有统计显著性。消融、鲁棒性、分类器泛化和高维扩展分析进一步证实其有效性。未来工作包括采用Nystr?m近似降低O(n2)内存成本、扩展到k可加容量以融合更多异质源、引入非线性编码器以捕获高阶特征交互，以及研究容量跨域迁移的可能性。
