《Egyptian Informatics Journal》：Binary classification for imbalanced datasets using a novel metric method
编辑推荐：
针对高度不平衡数据集中少数类识别困难的挑战，研究人员提出一种非平稳核与黎曼度量引导的核放大因子（THKAF）相结合的二元分类新方法。该方法通过构建具有自适应区域识别能力的非平稳核，并引入基于几何变换的核放大因子增强类间分离性，在无噪声环境下对极端不平衡比率（如40.22:1）的数据集有效提升了少数类感知的灵敏度，实验表明在10个UCI基准数据集上超越了多种基线方法，尤其在高不平衡场景下F1分数达到0.883，为高维不平衡分类提供了新的几何解释性解决方案。
在机器学习和数据分析的许多实际应用场景中，我们常常会遇到一种令人头疼的情况：数据集中不同类别的样本数量相差悬殊。例如，在医疗诊断中，患有罕见疾病的病例远少于健康个体；在金融欺诈检测中，欺诈交易的数量也远低于正常交易。这类数据集被称为“不平衡数据集”，其中一个类别（多数类）的样本数量远远超过另一个类别（少数类）。这种不平衡性给传统的二元分类器带来了严峻挑战——模型往往会因为多数类样本的“洪流”而“随波逐流”，倾向于将所有样本都预测为多数类，从而严重牺牲了对少数类（但往往更关键）的识别准确率。
为了应对这一难题，研究者们已经探索了多种路径。一种常见思路是从数据本身入手，比如通过“过采样”技术（如经典的SMOTE及其变体）人工增加少数类样本，或通过“欠采样”技术减少多数类样本，试图在训练前先“拉平”战场。然而，这些方法在处理极端不平衡（如不平衡比率超过10:1）或高维数据时，可能会扭曲原始数据结构或带来巨大的计算开销。另一种思路是从算法模型本身进行改造，例如调整支持向量机（SVM）的损失函数或结构，使其对误判少数类施加更重的“惩罚”。此外，集成学习和深度学习方法也展现出潜力，但它们通常复杂度较高，且对数据量和计算资源有更高要求。
那么，是否存在一种方法，能够不依赖繁重的数据增删或复杂的模型结构，而是从更本质的“空间几何”视角出发，直接增强分类器对稀缺少数类模式的“嗅觉”呢？这正是发表在《Egyptian Informatics Journal》上的这项研究试图回答的核心问题。本研究提出了一种名为“基于黎曼度量引导的核放大因子的非平稳核方法”（简称THKAF），旨在通过巧妙的核函数变换和几何空间操纵，为无噪声不平衡数据集的二元分类提供一种新颖且高效的解决方案。
研究所采用的关键技术方法
本研究的方法论框架主要包含三个核心技术环节。首先，非平稳核的推导：研究基于累积分布函数和Matern52核，构造了一个非平稳核 κΘ，其特点是能够动态适应局部数据密度变化，灵活地搜索并定位包含难以察觉的少数类样本的数据区域，这解决了自适应区域识别的问题。其次，核放大因子的推导：研究在黎曼度量的理论指导下，从n维单位超球体的体积元分析出发，推导出一个核放大因子 √(det|ψR(x)|)。该因子仅依赖于数据维度n，而与样本量和类不平衡比率无关，其作用是几何地改变特征空间的局部结构，诱导少数类样本在空间中进行“迁移”，从而拉大不同类别样本间的空间距离，增强类别分离性。最后，模型实现：研究将上述放大因子整合到非平稳核中，形成“放大后的核”，并采用支持向量数据描述（Support Vector Data Description, SVDD）为多数类和少数类分别构建一个超球体（即“双超球体”模型），实现对两个类别的无偏同步学习，最终输出分类标签和决策边界。整个流程清晰地分为非平稳核推导、核放大因子推导与整合、双SVDD超球体模型实现、结果输出四个阶段。
研究结果分析
1. 方法论框架的有效性验证
研究通过图1所示的总体流程图，清晰展示了从非平稳核推导、核放大因子整合到双SVDD模型实现的完整技术路径。理论分析表明，所提出的非平稳核 κΘ是一个正定核，具备非平稳特性和灵活的区域搜索能力。而核放大因子 √(det|ψR(x)|) 的推导基于严格的黎曼几何原理，其维度依赖特性使其特别适合于处理高维不平衡数据，且无需对样本量或不平衡比率做出限制性假设。
2. 在基准数据集上的性能优势
研究在十个来自UCI（加州大学欧文分校）的具有类别不平衡特性的基准数据集上进行了广泛的实验验证。这些数据集被分为两组：五组高度不平衡数据集（不平衡比率IR > 10:1）和五组中度不平衡数据集（IR < 10:1）。
- •
在高度不平衡数据集上：所提出的THKAF方法在所有六种基线方法（包括多种SVM变体、SMOTE等数据级方法）的比较中，均取得了统计上显著的优越性能。例如，在不平衡比率高达40.22:1的数据集上，THKAF取得了0.883的F1分数，并对少数类达到了0.800的灵敏度（Sensitivity）。核放大机制将感知少数类的灵敏度最高提升了6.35倍。
- •
在中度不平衡数据集上：THKAF方法保持了竞争优势，在所有评估指标上均优于部分基线方法，并将感知少数类的灵敏度最高提升了2.17倍。
实验结果强有力地证明了THKAF方法在处理不同程度不平衡数据时的有效性和鲁棒性。
3. 与现有策略的对比与理论贡献
研究在“相关工作”部分系统梳理并对比了当前解决不平衡二元分类的三类主流策略：数据级方法（如过采样/欠采样）、算法级方法（如代价敏感SVM）以及深度与集成学习方法。通过一个对比表格，研究明确指出THKAF方法与这些策略的核心区别：它不直接修改训练数据分布，也不侧重于分类器结构的复杂优化，而是通过黎曼几何变换特征空间，利用核放大因子来增强少数类的拓扑内聚性和类间分离性。这一几何变换的视角是本研究的核心创新。
研究进一步将THKAF的核心机制——通过几何变换保留对分类任务至关重要的判别性信息——与模型压缩、高效深度学习等领域中的“信息保留”范式进行了概念上的关联。这阐明了在不同资源约束的机器学习任务中，识别并保留对目标任务最关键的信息是一个共通的哲学思想。
研究结论与重要意义
本研究针对无噪声不平衡数据集的二元分类问题，提出并验证了一种创新的非平稳核放大因子方法（THKAF）。该方法的核心在于两个协同作用的机制：一是通过非平稳核自适应地定位少数类区域；二是通过黎曼度量引导的核放大因子，在特征空间中进行几何变换，以增强少数类的内聚性和与多数类的分离性。
本研究的重要意义体现在以下几个方面：
- 1.
理论创新：将黎曼几何原理引入到核方法的改造中，提出了一种与数据维度相关、而与样本规模和不平衡比率无关的核放大因子。这为理解和高效率解决高维不平衡分类问题提供了一个新的、具有几何解释性的理论框架。
- 2.
性能卓越：在包含极端不平衡场景（IR达40.22:1）的多个基准测试中，THKAF方法展现出了显著优于现有主流方法的分类性能，特别是在提升对稀缺少数类的识别能力（灵敏度）方面效果突出，最高提升达6.35倍。
- 3.
应用潜力：该方法专为无噪声环境设计，其不依赖样本量的特性使其在处理高维数据时具有潜在优势。它为那些样本收集困难、类别天然极度不平衡但又要求高少数类识别率的领域（如某些疾病诊断、异常检测、罕见事件预测等）提供了新的技术思路。
- 4.
启发性：研究将核心机制与广泛的“信息保留”哲学相联系，强调了在不同约束条件下（本研究中是少数类样本的极端稀缺），聚焦并保留对任务目标最关键信息的重要性，这为跨领域的机器学习方法研究提供了启发性视角。
总之，这项工作通过巧妙的核函数几何学改造，为不平衡分类这一经典难题贡献了一个既具有坚实理论根基，又经过充分实验验证的有效解决方案，标志着在此研究方向上一个有价值的进展。
