不平衡条件下欠采样技术对过拟合影响的系统实证研究

《IEEE Access》：Performance Overfitting Trade-Offs: Analysis of Under-Sampling Techniques for Imbalanced Classification

　　

摘要：

类别不平衡是监督学习中一个持续存在的挑战，其中少数类别的代表不足可能损害分类器的泛化能力。尽管先前的研究分别探讨了过拟合和类别不平衡问题，但在不平衡条件下欠采样算法对过拟合的影响仍缺乏充分研究。本研究对五种欠采样技术进行了系统的经验比较，这些技术包括随机欠采样（RUS）、Tomek Links、编辑最近邻（ENN）、凝聚最近邻（CNN）和 Near-Miss，并与未采样的不平衡基线进行了比较，此外还比较了一个基于 DBSCAN 的欠采样变体。本研究并未提出新的重采样算法。其新颖之处在于首次通过预测性能（F-度量/G-均值）和过拟合（测试-训练误差差）的联合视角，对欠采样技术进行了受控且统计上严格的比较，而此前尚未同时研究这两种指标。实验采用随机森林分类器，并使用袋外（OOB）误差、测试误差、过拟合边距以及在 15 个基准数据集上的平均排名来评估性能，这些数据集涵盖 214 到 10,992 个实例，不平衡比从 1.3:1 到 92.1:1 不等。结果表明，不采样和 Tomek Links 取得了最高的 F-度量和 G-均值分数，通常达到 1.0 的完美值，而 RUS 在不同设置中保持竞争力。关于过拟合缓解，ENN 始终减少测试-训练误差差（平均差异，Δ = 0.065）。然而，由于随机森林分类器表现出接近零的训练误差，该误差差被解释为跨采样方案的相对指标，而不是独立的过拟合度量，这突出了专注于边界的多数类移除作为隐式稳定机制的作用。结果表明，边界清理算法（ENN 和 Tomek Links）和 RUS 的表现与其他原型……

显示更多