欺诈不仅仅是稀有性：一种用于逼真合成过采样的因果原型注意力方法

《Knowledge-Based Systems》：Fraud is not just rarity: A causal prototype attention approach to realistic synthetic oversampling

　　

研究人员提出了一种新型分类器，即CPAC引导的VAE-GAN，用于欺诈检测，具有类别感知的潜在空间。研究人员证明，仅对少数类进行过采样对于现实检测存在根本性缺陷。研究人员展示了优于最先进过采样方法的F1分数、召回率和聚类分离度。研究人员引入了原型锚定和注意力机制，用于可解释、稳健的噪声检测。研究人员在信用卡欺诈数据上提供了广泛的基准测试和消融研究。

在网络安全威胁日益严峻的背景下，欺诈检测面临极端类别不平衡挑战（信用卡欺诈数据集Fraud Detection Dataset中欺诈率仅约0.17%）。现有方法如SMOTE和生成模型（VAE, GAN）通常仅对少数类（欺诈）进行过采样，导致合成样本局限于已知欺诈分布，缺乏判别边界，易使分类器过自信且泛化能力差，同时缺乏可解释性。为此，研究人员提出了一种因果原型注意力分类器（Causal Prototype Attention Classifier, CPAC），并将其集成到VAE-GAN编码器中，形成VAE-GAN+CPAC框架，旨在通过类别感知的潜在空间塑造生成更具判别性的合成样本，提升检测性能与可解释性。研究结果表明，该框架在Kaggle信用卡欺诈数据集上优于传统过采样方法，在F1分数、召回率和AUC上表现更佳，且潜在空间聚类更清晰，论证了仅对少数类过采样的局限性。该研究发表在《Knowledge-Based Systems》，推动欺诈检测从少数类仅过采样向上下文感知、判别式方法转变。

关键技术方法方面，研究人员使用了因果原型注意力分类器（CPAC），包含两个可学习原型向量（p₀, p₁）和注意力网络，通过加权距离度量样本与原型相似性，并以软最大函数输出概率。训练采用焦点损失（Focal Loss）应对不平衡，并引入可微阈值代理自适应优化分类阈值。VAE-GAN由编码器（E_φ）、解码器（D_θ）和判别器（C_ψ）组成，联合训练过程中，CPAC作为分类头附加到编码器，通过原型锚定（prototype anchoring）和尺度惩罚（scale penalty）正则化，引导潜在空间形成分离的聚类。样本队列来源为Kaggle信用卡欺诈检测数据集（284,807笔交易，492笔欺诈，极端不平衡），并在独立合成数据集上验证泛化性。

研究结果按小节总结如下：
4.1 Preliminary results：初步结果显示，CPAC作为分类头时，编码器潜在空间形成两个紧致且分离良好的聚类，原型锚定在各自聚类中心，注意力权重突出关键特征，仅少量误分类和边界重叠。
4.2 Oversampling results and experiments：
4.2.1 No oversampling：所有分类器在原始数据集上表现稳健，CPAC的AUC-ROC最高（98.49%），表明其原型结构有效。
4.2.2 Single-sample inference time：CPAC单样本推理时间（0.009852 ms）介于传统模型与KNN之间，满足实际部署需求。
4.2.3 SMOTE oversampling performances：SMOTE过采样后，XGBoost表现最稳定，F1和AUC-ROC高；CPAC在低过采样量时表现好，但随合成样本增多性能下降，表明对分布变化敏感。
4.2.4 VAE–GAN oversampling performances：VAE-GAN过采样效果优于SMOTE，但CPAC的Recall和F1仍随样本增多下降，说明对潜在分布变化敏感。
4.2.5 SMOTE vs VAE-GAN results observations：VAE-GAN生成的合成样本更真实，但两种方法均导致过自信，CPAC可部分缓解。
4.3 VAE-GAN with CPAC head as oversampler：
4.3.1 Applying oversampling before VAE-GAN+CPAC training：在VAE-GAN+CPAC训练前使用SMOTE预过采样（75个样本）可减少潜在空间重叠，改善分离。
4.3.2 Results obtained with pre-training oversampled VAE-GAN+CPAC：预训练过采样后的VAE-GAN+CPAC显著提升XGBoost性能，F1和AUC-ROC最高，且更稳定。
4.4 Comparison with state of the art approaches：与最新方法（Shi et al. 2025, Ahmed et al. 2025）比较，在相同设置下，研究人员提出的XGBoost+预训练过采样VAE-GAN+CPAC在所有指标上超越，且不均衡训练集，避免过拟合。
4.5 Evaluation on an independent synthetic credit card dataset：在独立合成数据集上，VAE-GAN+CPAC过采样持续提升XGBoost性能，证明泛化能力。
5. Ablation study：
5.1 Effect of removing the CPAC head：移除CPAC头后，潜在空间重叠严重，分类性能下降。
5.2 Effect of removing the attention mechanism：移除注意力机制后，潜在空间沿线性流形塌缩，分离度降低。
5.3 Effect of removing the prototypes：移除原型后，仅靠注意力不足以分离类别，潜在空间塌缩。
5.4 Effect of removing the anchor and scale penalties：移除锚定和尺度惩罚后，边界变模糊，分离度降低。
5.5 Effect of using focal loss for the CPAC：使用焦点损失替代二元交叉熵，潜在空间分离更清晰，但下游指标轻微下降，因焦点损失更关注难分类样本。

讨论部分（Section 6）指出，传统仅少数类过采样导致合成样本仅反映已知欺诈分布，缺乏判别边界，而VAE-GAN+CPAC通过在全数据集上训练，利用CPAC监督塑造潜在空间，生成更具判别性的合成样本，减少过拟合和过自信，提高泛化能力，同时提供可解释性。研究结论（Section 7）翻译如下：本研究展示了仅对少数类进行过采样在欺诈检测中的局限性，并强调了在VAE-GAN框架内使用CPAC进行分类器引导的、类别感知的潜在空间塑造的优势。研究人员的实验结果表明，仅依赖少数类的合成增强可能导致过自信且泛化能力差的模型，而有监督反馈和原型驱动的聚类提供了更有意义的分离和稳健的检测性能，这体现在改进的F1分数、召回率和AUC上。CPAC方法提供了独特的可解释性和灵活性，允许在极端类别不平衡下进行有效的可视化并取得强有力的性能。这些发现主张从传统的过采样技术转向明确利用类别结构、有监督目标和可解释性的架构。展望未来，推进这一研究方向有若干有希望的途径。更深或更复杂的神经网络分类器，无论是作为独立检测器还是编码器头部，都有可能捕捉更细微的欺诈模式。整合去噪策略，如去噪自编码器，可能进一步增强置信度并减少潜在重叠。跨其他不平衡噪声检测任务和领域进行更广泛的验证，以及开发更丰富、更透明的解释方法，是重要的下一步。最后，探索替代的潜在空间塑造策略，如对比或流形正则化目标，可能产生进一步收益，尤其是在低标记或高度不平衡的场景中。总体而言，研究人员的方法不仅提升了性能指标，还解决了可解释性、可靠性和鲁棒性的关键需求。虽然专注于信用卡欺诈，但所提出的方法和见解可推广到广泛的异常检测挑战，为更稳健和可信赖的机器学习系统铺平了道路。