《Scientific Reports》：Dynamic F1-score-based voting strategies for multi-class classification: an adaptive ensemble approach for non-linear and imbalanced datasets
编辑推荐：
分类是机器学习的一项核心任务，集成投票方法被广泛用于提高预测准确性，尤其是在医疗诊断等领域，这些领域普遍存在类别不平衡和非线性决策边界问题。传统策略包括多数投票（MV）、加权投票（WV）和软投票（SV），它们依赖静态或分类器层面的加权方案，无法捕捉分类器在不同
分类是机器学习的一项核心任务，集成投票方法被广泛用于提高预测准确性，尤其是在医疗诊断等领域，这些领域普遍存在类别不平衡和非线性决策边界问题。传统策略包括多数投票（MV）、加权投票（WV）和软投票（SV），它们依赖静态或分类器层面的加权方案，无法捕捉分类器在不同类别上可靠性的差异。本文引入了三种动态的、类别特定的投票策略：最高类别F1分数投票（HCF1V）、累积类别F1分数投票（CCF1V）和增强类别F1分数投票（ECF1V），每种策略都基于验证阶段获得的每类F1分数而非整体性能来分配分类器权重。通过计算模拟，在三个合成非线性数据集（高斯混合、螺旋和月牙）以及两个真实世界医学基准数据集——威斯康星乳腺癌数据集（BCWD）和UCI心脏病数据集（UHDD）上评估了这些策略，使用了基于scikit-learn的分类器，并通过Wilcoxon符号秩检验评估统计显著性。ECF1V在大多数设置中达到了最高准确率，在BCWD上达到98.25%，在UHDD上达到89.47%，优于传统投票方法和几种近期发表的方法。这些结果表明，基于类别特定F1分数的加权提高了集成可靠性，特别是在类别不平衡条件下，支持其在医疗诊断等高风险分类任务中的适用性。
# 论文解读：基于类别特定F1分数的动态投票策略提升不平衡与非线性数据集的集成分类性能
## 研究背景与问题
分类是机器学习领域的核心任务之一，广泛应用于图像识别、欺诈检测和医疗诊断等场景。在医疗诊断中，分类算法的准确性至关重要，因为误分类可能导致错误治疗或漏诊，直接危及患者健康。集成学习，尤其是基于投票的策略，通过结合多个分类器的优势来提高预测的准确性和鲁棒性，在医疗诊断中得到了广泛应用。然而，类别不平衡、特征之间的非线性关系以及噪声数据等因素会显著影响传统集成方法在医疗领域的性能，这些挑战在乳腺癌、心脏病等疾病数据集中尤为突出，因为此类场景下误分类的代价极高。
传统的投票集成方法，如多数投票（Majority Voting, MV）、加权投票（Weighted Voting, WV）和软投票（Soft Voting, SV），因其简单性而被广泛使用，但它们在处理非线性数据集和多分类任务时存在明显局限。MV将所有分类器视为同等可靠，无法处理平票情况；WV基于固定权重分配，偏向强分类器，可能降低集成多样性并增加过拟合风险；SV虽然利用概率输出，但对分类器的概率校准质量敏感，且在类别不平衡数据集中容易偏向多数类。这些方法均未显式考虑分类器在不同类别上的置信度差异，导致在类别不平衡和非线性决策边界场景下性能欠佳。
## 研究内容与主要方法
针对上述问题，研究人员提出了一种基于类别特定F1分数的动态投票框架，包含三种新策略：最高类别F1分数投票（Highest Class F1-Score Voting, HCF1V）、累积类别F1分数投票（Cumulative Class F1-Score Voting, CCF1V）和增强类别F1分数投票（Enhanced Class F1-Score Voting, ECF1V）。该框架的核心思想是在验证阶段计算每个分类器对每个类别的F1分数，构建类别特定的权重矩阵，而非使用单一的全局权重向量，从而实现分类器影响力的动态、类别级别调整。
研究在三个合成非线性数据集（高斯混合、螺旋、月牙）和两个真实医学基准数据集——威斯康星乳腺癌数据集（BCWD）和UCI心脏病数据集（UHDD）上进行了计算模拟评估。合成数据集分别包含3000、8000和2000个数据点，均设计为非线性和类别可区分性挑战性场景。BCWD包含569个样本和30个特征，目标为恶性肿瘤（M）和良性肿瘤（B）的二分类；UHDD包含303名患者和13个特征，用于预测心脏病的存在与否。实验采用80/20分层划分训练集和测试集，从训练集中再分出20%作为验证集用于F1分数计算，使用默认scikit-learn参数的基分类器，以固定随机种子42确保可重复性，并通过Wilcoxon符号秩检验评估统计显著性。
## 主要结果
### 高斯混合数据集评估
实验采用SVM、KNN、NB和DT作为基分类器。ECF1V取得最高准确率89.22%，紧随其后的是CCF1V（88.76%）和HCF1V（88.44%），均优于传统方法MV（87.11%）和WV（86.89%）。Wilcoxon检验显示，ECF1V和CCF1V对所有传统投票方法均实现统计显著的改进（p=0.002）。ROC曲线分析显示，ECF1V的AUC值在0.9092至0.9826之间，而MV在类别0和类别3上的AUC分别仅为0.8679和0.8768，表明简单投票聚合在处理复杂数据集时不足。
### 螺旋数据集评估
在螺旋数据集上，ECF1V取得最高准确率96.33%，HCF1V达到95.08%，CCF1V为94.26%，SV为95.25%，WV为94.29%，而MV仅为87.11%。Wilcoxon检验表明，ECF1V和HCF1V对所有传统方法均实现统计显著的改进（p≤0.0059），而CCF1V与WV之间的差异未达到统计显著（p=1.000）。ROC分析中，ECF1V在类别1和类别2上达到完美AUC值1.0000，展示了基于F1分数的加权机制有效放大了对复杂类别边界最具判别力的分类器贡献。
### 月牙数据集评估
在月牙数据集上，HCF1V取得100%的准确率，因为基分类器KNN在该数据集上实现了100%准确率，HCF1V通过选择每类F1分数最高的分类器，使最终决策与KNN输出一致。ECF1V和CCF1V分别达到97.83%和97.17%的准确率。Wilcoxon检验显示，ECF1V和HCF1V对所有传统方法均实现统计显著的改进（p≤0.00117），而CCF1V与WV的差异同样未达到统计显著。
### BCWD评估
在BCWD上，基分类器选择为KNN、NB和DT（经验最优组合）。ECF1V和CCF1V均取得最高准确率98.25%，超越了此前研究报道的最佳结果98.13%。HCF1V的准确率为92.98%，相对较低，说明仅依赖每类最高F1分数的方法在复杂不平衡数据集上鲁棒性不足。
### UHDD评估
在UHDD上，基分类器为LR、SVM和RF。ECF1V取得最高准确率89.47%，CCF1V为88.16%，HCF1V为86.84%，均优于对比的近期研究结果（最高为87.20%）。
## 讨论与结论
研究发现，类别特定的F1分数加权能显著提升集成分类的可靠性，特别是在类别不平衡条件下。与传统方法相比，ECF1V在三个合成数据集上均对MV、SV和WV实现了统计显著的性能提升，表明其优势具有鲁棒性。ECF1V通过结合归一化F1分数和分类器置信度，在高维、非线性和类别不平衡数据中表现出最佳的综合性能。HCF1V在特定数据集上表现优异，但在BCWD等复杂数据集上稳定性不足。传统MV和WV在复杂数据集上表现较弱，SV性能较好但缺乏动态适应性。
研究结论指出，针对RQ1，类别特定F1分数投票策略总体上优于传统投票方法，大多数成对比较中观察到的改进具有统计显著性。针对RQ2，ECF1V在不同类别不平衡程度和决策边界复杂度的数据集上表现出最一致的性能。该框架无需SMOTE等过采样或欠采样技术，对少数类的改进是预测阶段类别级F1分数加权的涌现属性，具有重要的方法论意义。研究的局限性包括：验证集上少数类F1分数可能因样本稀疏而方差较高；跨研究比较受实验设置差异影响，应视为描述性而非推断性结论。未来工作可探索将F1分数替换为Fβ分数（β>1）以适应假阴性成本更高的应用场景，并将框架扩展到深度学习模型和更大规模的高维数据集。
