教育数据挖掘中类别不平衡混合重采样方法SMOTE-CCU?的系统基准研究

《Scientific Reports》：Systematic benchmarking of oversampling, undersampling, and hybrid sampling techniques using SMOTE-CCU+ with statistical validation and ablation analysis

　　

摘要

类别不平衡问题持续制约着教育数据挖（EDM）中的预测精度与公平性，尤其是在学术成绩建模与学生行为建模方面。本研究提出了一套涵盖过采样、欠采样和混合方法的全面重采样基准，以评估这些策略在多样化教育场景中提升分类性能的有效性。我们在两个互补数据集上训练并评估了五种机器学习分类器（逻辑回归、决策树、随机森林、K近邻和支持向量分类器）：一个结构化学术成绩数据集和一个公开可用的异质行为数据集。为应对不平衡引起的偏差，我们提出了一种新颖的混合重采样技术——SMOTE-CCU⁺（合成少数过采样与聚类质心欠采样增强版），该技术整合了基于DBSCAN的少数类过滤、距离加权合成样本生成、自适应质心欠采样（CCU）和Tomek Links边界精炼。这一多阶段流水线在提升少数类代表性的同时保留了决策边界的完整性，从而改善了模型的泛化能力。实验结果表明，SMOTE-CCU⁺在所有评估指标上均一致优于现有方法（SMOTE、ADASYN、ENN和CCU），在类别不平衡情况下最能体现区分能力的马修斯相关系数（MCC）上表现尤为突出。值得注意的是，基于树模型因其对类别不平衡天然鲁棒，即使在未经重采样的情况下也接近完美表现；而支持向量分类器（SVC）的MCC在配合SMOTE-CCU⁺后从0.000大幅提升至0.986，突显了该方法对于对不平衡敏感的 classifiers 的关键作用。为确保严格的统计验证，我们应用了三种互补框架：带有效应量估算的Wilcoxon符号秩检验（\(r = Z/\sqrt{N}\)）、用于多组比较的Friedman检验，以及带有临界差图的Nemenyi事后分析。Friedman检验在两个数据集上均确认了不同采样策略之间存在统计学显著差异（主数据集：\(\chi ^2 = 11.50\)，\(p = 0.042\)；次数据集：\(\chi ^2 = 14.07\)，\(p = 0.015\)）；而在25组两两Wilcoxon比较中，有24组产生了大效应量（\(r \ge 0.50\)），在不依赖样本量限制的情况下证实了实用层面的优越性。消融研究表明，DBSCAN过滤是该流水线的关键差异化因素，而CCU和Tomek Links提供结构精炼，在噪声大、异质性强的条件下效果最为显著。计算时间分析进一步证实，SMOTE-CCU⁺是所评估的最有效重采样方法（在次数据集训练分区上仅需0.036秒），快于SMOTE、ENN、ADASYN和CCU，确认了其适合实际部署。通过在两个数据集上系统地评估我们提出的混合方法与标准重采样技术，并结合多组统计验证、效应量报告、组件级消融分析和计算成本对比，我们提供了迄今为止教育数据挖不平衡学习中最为全面的基准之一。我们的研究结果证明，SMOTE-CCU⁺是一种鲁棒、计算高效且具有良好泛化性的教育不平衡数据解决方案，尤其适用于部署多种分类器组合的机构——在这些场景中，重采样需要同时惠及所有模型架构。通过这项工作，我们为教育数据挖中的不平衡学习建立了一个可复现且具有统计验证的基准，为构建更公平、更可靠的学生成绩监测和早期干预预测系统提供了一条具体路径。