TabDDPM-Aug:用于不平衡表格分类的自适应扩散混合增强方法

《Expert Systems with Applications》:TabDDPM-Aug: Adaptive Diffusion-Based Hybrid Augmentation for Imbalanced Tabular Classification

【字体: 时间:2026年07月19日 来源:Expert Systems with Applications 9.4

编辑推荐:

  •在DBHA与FDHA增强策略之间选择基于密度自适应的策略。•结合SMOTE与集成扩散模型的混合双流架构。•利用DCR指标进行自适应质量过滤,以避免分布崩溃。•在不影响分类效果的前提下降低成员推断攻击的风险。引言表格数据集是现代机器学习的基石,为金融领域的风险模型、医学领域的诊断

  •在DBHA与FDHA增强策略之间选择基于密度自适应的策略。•结合SMOTE与集成扩散模型的混合双流架构。•利用DCR指标进行自适应质量过滤,以避免分布崩溃。•在不影响分类效果的前提下降低成员推断攻击的风险。引言表格数据集是现代机器学习的基石,为金融领域的风险模型、医学领域的诊断系统、医疗保健、欺诈检测、网络安全、科学发现以及关键公共基础设施中的结果预测提供支持(Borisov等人,2024年;Chawla、Bowyer、Hall和Kegelmeyer,2002年)。与图像或文本不同,表格数据在特征构成和规模上存在极大差异(Anshelevich和Katz,2025年),因此需要专门的增强策略。这些数据集往往包含诸如信贷申请、临床记录、保险数据及人口统计信息等敏感内容(Boni等人,2025年;Zhao、Kunar、Birke、Van der Scheer和Chen,2024年)。在现实场景中,类别不平衡才是常态而非例外:少数类通常仅占可用数据的几百分比(Xu、Skoularidou、Cuesta-Infante和Veeramachaneni,2019年)。这种极端的不平衡会导致对多数类的系统性偏见,进而引发不公平的贷款决策、有偏的内容与信息处理、漏诊以及错误的欺诈检测结果(Ahmad、Shah、Guo和Liu,2025a;Ahmad、Shah、Lee、Naqvi和Muhammad,2025b;Borisov等人,2024年;Zhao等人,2024年)。在那些需遵循监管规定且注重伦理的领域中,要实现公平且能保护隐私的机器学习,就需要有效的稀有类丰富技术。然而,传统的表格数据增强方法——合成少数类过采样技术(SMOTE)(Chawla等人,2002年)和自适应合成采样(ADASYN)(He、Bai、Garcia和李,2008年)——依赖于线性插值,这不仅容易导致过拟合,还会通过原样复制敏感特征而增加隐私风险(Chawla等人,2002年;Margeloiu、Jiang、Simidjievski和Jamnik,2024年)。而变分自编码器(VAEs)、生成对抗网络(GANs)以及基于扩散的模型等深度生成模型,则有望带来更丰富的样本多样性以及更高的分布真实性(Kotelnikov、Baranchuk、Rubachev和Babenko,2023年;Xu等人,2019年)。现有方法存在两种系统性缺陷。首先,基于GAN的模型在极端不平衡的测试集上虽能获得较高的F1分数(0.87–0.89,其中不平衡比为101.5:1),但其成员推断攻击率却接近1.0,这说明其性能提升源于记忆能力而非泛化能力(Hayes、Melis、Danezis和De Cristofaro,2019年;Margeloiu等人,2024年)。其次,TabDDPM在仅使用少数类样本训练时,在高密度环境下其性能低于传统过采样方法(F1值为0.45,而SMOTE的F1值为0.52),同时还会出现对训练数据的记忆现象(成员推断攻击率为1.0),这表明将扩散模型应用于有限的少数类子集会同时损害模型的实用性和隐私性(Kotelnikov等人,2023年;Margeloiu等人,2024年)。为解决这些问题,我们提出了TabDDPM-Aug,该算法能够根据少数类样本与特征的密度比(ρ=Nmin/d)自动选择合适的增强策略(Boni等人,2025年;Chundawat、Tarun、Mandal、Lahoti和Narang,2024年)。在密度较高的情况下(ρ≥30),它会使用完整的少数类分布采用FDHA策略;而在密度较低的情况下,则通过决策边界距离对样本进行划分并采用DBHA策略。图1展示了七个代表性测试集上的这种策略分布情况。我们的贡献包括:•自适应学习框架:我们提出了TabDDPM-Aug,该框架会根据少数类样本数量与特征维度的比例,在两种少数类增强策略之间进行选择:当少数类数据较少时采用基于难度的插值-扩散混合策略,而当少数类数据充足时则采用全分布扩散训练策略。在涵盖八个应用领域、不平衡比从1.8:1到101.5:1的13个测试集中,我们的模型在效用、隐私性和真实性三个指标上的平均排名在九种方法中位居首位。•交叉效应:我们通过统计证据表明,不存在一种通用的最优生成策略:当少数类样本较少时,基于难度的混合策略优于全数据生成策略,而当少数类数据充足时则相反。这种交叉效应在不同密度环境下都存在,从而证实策略选择必须根据数据集规模进行调整,而非固定不变。•隐私保护型增强:在13个测试数据集中的每一个上,TabDDPM-Aug都能实现最低的成员推断攻击风险,从而降低了敌手判断出哪些真实记录被用于训练的可能性。相关研究工作我们回顾了五个主题领域的现有文献:传统过采样方法、深度生成模型、扩散模型方法、自适应策略以及注重隐私的合成方法,并指出了TabDDPM-Aug所解决的不足之处。方法论遵循Haixiang等人(2017年)和He与Garcia(2009年)提出的类别不平衡学习理论框架,我们对不平衡表格数据增强问题进行了形式化定义,阐述了我们的自适应框架架构,并详细说明了各组成部分的算法规范及复杂度分析。实验与结果我们在13个涵盖八个应用领域的测试数据集上对TabDDPM-Aug进行了全面实验验证,通过严格的5种子随机评估方法将其与七种基线方法进行了比较。我们的评估围绕三个研究问题展开:问题1:TabDDPM-Aug能否有效平衡效用、隐私性和真实性之间的权衡?问题2:这种交叉效应在不同的数据集上是否同样成立?问题3:各个组成部分是否都对模型性能有显著的贡献?结论TabDDPM-Aug通过基于数据集特征的策略自适应选择,有效解决了效用、隐私性和真实性之间的平衡问题,能够在保持实际应用可行性的同时,在这几个方面实现良好的平衡。在13个不同测试集上的5种子随机评估结果证实了存在交叉效应:在低密度环境下DBHA表现更佳,而在高密度环境下FDHA则更具优势。在F1值、成员推断攻击率以及MMD值这三个指标上,TabDDPM-Aug的平均排名均处于最高水平。未来发展方向要将TabDDPM-Aug扩展到K类数据场景,就需要进行每类的密度估计(ρk=Nk/d),并设计能够共同优化成对增强的策略矩阵,其计算复杂度为O(K)。在极低密度的数据集上,虽然DBHA能在隐私保护方面有所提升,但其在F1值上的表现仍不如传统的SMOTE。对于这种极端情况,或许采用纯SMOTE结合基于DCR的后期处理且不使用扩散组件的策略最为合适,这样就可以将现有的两区域自适应规则进一步优化。CRediT作者贡献声明Tanveer Ahmed:概念构建、方法论、软件开发、数据整理、原始稿撰写Junaid Ur Rehman:概念构建、软件开发、研究分析、可视化。利益冲突声明作者声明自己没有已知的可能影响本文研究工作的财务利益或个人关系。Tanveer Ahmed|Junaid Ur Rehman
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号