深度学习和机器学习方法在信用卡欺诈风险管理中的建模与优化
斯拉维·格奥尔基耶夫(Slavi Georgiev)、
玛雅·马尔科娃(Maya Markova)、
韦塞拉·米霍娃(Vesela Mihova)
以及韦内林·托多罗夫(Venelin Todorov)
《Mathematics》:Modeling and Optimization of Deep and Machine Learning Methods for Credit Card Fraud Risk Management
Slavi Georgiev,
Maya Markova,
Vesela Mihova and
Venelin Todorov
【字体:
大
中
小
】
时间:2026年05月02日
来源:Mathematics 2.2
编辑推荐:
摘要 随着数字支付基础设施的扩展,非现场交易欺诈(card-not-present fraud)的发生率已成为银行、支付处理机构和商户面临的主要运营和财务风险来源。为此,金融机构越来越依赖数据驱动的决策系统,然而欺诈者不断调整他们的策略以规避传统的基于规则
摘要 随着数字支付基础设施的扩展,非现场交易欺诈(card-not-present fraud)的发生率已成为银行、支付处理机构和商户面临的主要运营和财务风险来源。为此,金融机构越来越依赖数据驱动的决策系统,然而欺诈者不断调整他们的策略以规避传统的基于规则的控制系统。加强风险管理的一个有前景的方法是对交易数据进行建模,以揭示欺诈行为特有的非平凡的高维模式,并将这些模型嵌入到实时决策流程中。在这项工作中,我们开发并比较了一套基于学习的欺诈检测器,包括一个卷积神经网络和几种机器学习分类器,这些都在一个统一的定量风险管理框架内进行。该问题被构建为一个监督分类任务,其中漏检欺诈的成本尤为重要。我们的数学贡献主要是方法论上的,而不是架构上的:我们设计了一种适用于极度不平衡二元分类的、防止数据泄露且忠实反映欺诈普遍性的评估协议,结合了交叉验证的超参数优化和基于召回率和马修斯相关系数等指标的风险对齐模型选择,并通过自助法置信区间和配对麦克尼马尔检验(McNemar tests)来量化不确定性。此外,我们通过一个决策理论上的、对成本敏感的阈值规则,将统计评估与部署时的决策过程联系起来,展示了特定机构的假阳性(false-positive)和假阴性(false-negative)成本如何决定分类器的操作点。由于欺诈交易仅占总交易量的很小一部分,我们采用了重采样策略来缓解严重的类别不平衡,并通过交叉验证的超参数优化系统地校准模型。对真实交易数据的实证分析表明,精心调整的深度学习和集成方法可以实现强大的欺诈检测性能,而所提出的框架明确了哪些性能差异在统计上是显著的,以及在特定机构的假阳性和假阴性成本下哪些操作点最为合适。
1. 引言
银行和金融市场竞争激烈,银行不仅相互竞争,还与其他金融机构如保险公司和养老基金竞争。在这种环境下,开发用于信贷和存款业务、信用卡运营、投资组合管理以及金融和保险风险分析的新技术至关重要。有效应对这些挑战需要复杂的定量工具和精通金融数学和风险管理的专家。近年来,信用卡用户数量大幅增加[1],统计数据显示美国有10.6亿张信用卡在流通,全球则有28亿张。平均而言,美国人持有四张信用卡,而根据欧洲中央银行的一份报告,欧盟的人均信用卡数量在0.8到3.9张之间。随着信用卡使用的增加,应用和交易量也随之增长。手动处理如此大量的数据既耗时又容易出错。通过利用历史数据和先进的建模技术,可以构建能够高效评估信用状况和识别异常交易行为的决策支持系统。
随着信用卡使用的持续激增,信用卡欺诈这一并行挑战也随之出现。由于欺诈活动造成的财务损失正在上升,对机构及其客户构成了重大的运营和财务风险。仅在2021年,信用卡欺诈就导致了超过320亿美元的全球损失[2]。欺诈者的手段日益复杂,加上交易的数量和速度,使得传统的基于规则的检测方法变得不够有效。因此,迫切需要创新、可靠且强大的解决方案,这些方案能够利用深度学习和机器学习的潜力。这样的方法可以处理大规模的交易数据,揭示微妙的高维模式和异常情况,从而提高欺诈检测的准确性和及时性。因此,这项比较研究的主要目标是开发和严格评估一套深度学习和机器学习模型——包括一个卷积神经网络和几种先进的分类器——用于在高度不平衡的交易数据上进行信用卡欺诈检测,特别强调最小化漏检欺诈,并评估它们在实时风险管理系统中的适用性。
信用卡欺诈是指未经授权的人在合法持卡人不知情或未经同意的情况下使用信用卡或卡片信息谋取个人利益。最简单的形式是物理盗窃卡片,这些卡片可以在销售点终端或自动取款机(ATM)上使用。更复杂的手段包括使用伪造或假冒的卡片,这些卡片通常是通过复制或克隆真实卡片数据制成的。欺诈也可以完全在线上进行。例如所谓的三角欺诈(triangulation fraud),其中一个欺诈网站宣传大幅折扣的商品。客户下订单并提供个人卡片信息,以为自己正在与合法商家交易。然后,欺诈者使用被盗的卡片数据以正常价格从合法供应商处购买商品,以及可以转售的额外物品。原始客户收到他们的订单,可能没有意识到他们的卡片被滥用。
另一种众所周知的技术是网络钓鱼(phishing),其目的是获取敏感信息,如用户名、密码和卡片详情,通常通过模仿可信机构的欺骗性电子邮件或网站来实现。一旦获取了这些凭证,它们可以直接使用或在非法市场上转售。因此,信用卡欺诈是欺诈分析领域研究最活跃的问题之一[4,5,6]。众所周知,在可靠地识别欺诈行为之前,通常需要检查与该卡片相关的大量交易[4]。在实践中,每笔交易都被添加到历史操作池中,然后使用统计或机器学习技术分析整个数据集以检测欺诈的迹象[7]。
在这项工作中,我们将信用卡欺诈检测构建为一个基于交易数据的监督二元分类问题。我们对数据集应用了标准的预处理程序,包括在必要时处理缺失值、编码分类变量以及缩放数值特征。在这些预处理数据的基础上,我们训练了一个具有多种隐藏层配置的卷积神经网络,以及一系列广泛使用的机器学习分类器,以构建一个有竞争力的模型集合。我们使用适当的性能指标对模型进行调优和比较,以增强其区分能力,特别是针对少数类(欺诈类)。最后,我们通过在数据的一个平衡子集上训练模型,并在保留的测试集上评估它们的有效性来进行评估,重点关注从风险管理角度来看关键的指标,如召回率、精确度、F1分数和假阴性率。
尽管有许多研究在广泛使用的ULB/Kaggle信用卡数据集[8]上对欺诈检测器进行了基准测试,但最近的调查强调,由于实验协议的不同(例如,不同的重采样策略、训练/测试分割方法和超参数调整程序),以及经常优先考虑整体准确性,因此发布的结果往往难以比较[9,10],这在极端类别不平衡的情况下可能会产生误导[9,10]。这造成了“高报告分数”与透明、可审计且直接可用于风险管理的证据之间的研究差距,而后者更关注漏检欺诈(假阴性)的成本,而不是总体准确性的边际提升[3,11]。因此,当前研究的贡献不是为同一基准引入另一个分类器,而是构建了一个一致且可复制的比较框架,该框架(i)在统一的流程下评估了一个正则化的CNN以及一系列经典和集成学习器,(ii)仅在训练数据上进行系统的交叉验证超参数优化,以减少选择偏差和过拟合风险,(iii)报告了一组与风险对齐的指标(包括MCC和特定类别的错误率)以及在真实普遍性下的操作点性能。重要的是,这种受控的协议揭示了在平衡评估下报告的一些收益在真实普遍性测试下并不持久,并明确了在不同假阳性预算和运营约束下哪些方法更可取。此外,该框架不仅仅是描述性的:它通过明确推导出一个对成本敏感的操作阈值,将模型比较、混淆矩阵指标和特定机构的风险偏好联系在单一的数学公式中。所有数据分割、预处理步骤和超参数搜索设置都进行了指定,以支持精确的复制。通过这种方式,该贡献通过提供一个端到端的、方法论上透明的基准,明确了在受控评估下哪些性能提升是持久的,以及在考虑将模型部署到银行系统时哪些权衡仍然存在[1,12]。
最近的以模型为中心的贡献提出了专门的检测器——例如,带有注意力的混合CNN-LSTM架构[13]、连续耦合神经网络[14]、结合序列模型的保持分布的重采样[15],或为极端不平衡量身定制的增强树变体[16]。相比之下,我们的论文并不声称提出了一种新的检测架构或新的重采样/提升机制;相反,它提供了一个防止数据泄露且忠实反映欺诈普遍性的评估框架,在这个框架中,可以在相同的划分、调整和阈值协议下评估这些算法进步与强大的经典基线的表现。这种定位有助于区分真正的建模改进和由协议驱动的效果(例如,重采样、分割设计和操作点选择),从而提高可比性和部署的可行性。
本文的其余部分组织如下。在下一节中,我们将详细描述研究中使用的数据集和算法。第3节介绍了用于量化模型性能的评估指标,并展示了数值结果,而额外的实现细节和最佳参数设置分别在附录A、附录B、附录C、附录D、附录E、附录F和附录G中报告。第4节对实证发现进行了深入讨论,强调了不同模型之间的权衡及其对信用卡欺诈风险管理的意义,讨论了工作的局限性,并概述了未来研究的可能方向。第5节总结了主要贡献和见解。
2. 材料与方法
在本节中,我们首先提供了数据概述,并描述了预处理程序。然后,详细解释了所使用的两种算法——神经网络和机器学习技术。
2.1. 数据概述
2.1.1. 处理不平衡数据集
不平衡学习是一种用于处理类别示例数量显著不同的分类问题的机器学习方法。这可能很复杂,因为大多数学习算法并不是为处理这种不平衡而设计的,可能会偏向多数类。这可能导致最终系统对少数类的建模不够准确[17,18,19]。有多种方法可以解决不平衡数据的问题。一种方法是使用重采样方法[20,21],在训练算法之前修改数据集。这可以通过移除多数类的样本(欠采样技术)、增加少数类的样本(过采样技术)或两者结合来实现[19,22,23]。
平衡偏向某一类的数据集主要有两种方法:过采样和欠采样。选择哪种方法取决于数据集的特点。当少数类的样本较少时,过采样通常更有效,而欠采样更适合大型数据集[19]。过采样涉及复制少数类的样本。欠采样是一种通过移除多数类的样本来减少不平衡比例的方法。这可以随机进行,但更高级的技术涉及从重叠区域移除样本或用它们的质心替换样本子集。这两种方法都有各自的优缺点[19]。过采样可以提高分类性能,但可能导致过拟合。欠采样可以加快训练时间,但可能会丢弃有价值的样本[12]。
欠采样是在已报告的研究中常用的策略[24],在某些条件下表现良好[25]。还有一些先进的欠采样策略,例如Tomek Links[26]和Edited Nearest Neighbors (ENN)[27],它们针对移除重叠区域的记录。
2.1.2. 数据
本研究使用的数据集来自[8],包含了2013年9月欧洲持卡人进行的信用卡交易。它包含284,807笔交易,其中492笔被标记为欺诈,即欺诈类仅占所有观察值的0.172%。极端类别不平衡使得这个基准测试特别适合在现实操作条件下评估欺诈检测模型,这也是它在文献中被广泛使用的原因之一。所有输入属性都是数值型的。由于保密限制,原始的解释变量没有提供;相反,特征V1、V2……V28通过主成分分析(PCA)转换进行了匿名化。未经过PCA转换的两个特征是“时间”和“金额”。变量“时间”表示自数据集中第一笔交易以来的经过时间(以秒为单位),而“金额”代表交易价值,在对成本敏感的环境中可以解释为与示例相关的误分类成本[28]。响应变量“类别”对于欺诈交易等于1,否则等于0[8]。在原始数据中,非欺诈和欺诈子集的形状分别为(284,315, 31)和(492, 31)。在模型开发之前,我们应用了一个防泄露的预处理和评估协议。首先使用分层的80/20划分将数据集分为不相交的训练和测试子集,同时保持原始的类别比例。所有依赖于数据的转换仅在训练子集上进行;特别是,StandardScaler[29]在训练数据上拟合,然后使用学到的参数应用于训练和测试子集。为了在模型拟合过程中减轻类别不平衡,我们仅对训练数据应用随机欠采样,保留了多数类的受控子集(即部分欠采样1:20而不是完全的1:1平衡)。我们根据经验选择了这个比例,以平衡性能和计算工作量(图A1)。我们还根据经验检查了欠采样改进[26,27]在我们的案例中没有效果,因此没有应用它们(图A2)。模型通过在重采样的训练集上使用average_precision进行调优[30]。测试子集从不被重采样,仅用于最终的保留评估,确保报告的性能反映了在自然不平衡的交易流上的部署。这种工作流程遵循了避免监督学习中信息泄露的最佳实践。
2.1.3. 实施细节和可重复性
软件和版本:Python 3.9.7、scikit-learn、imbalanced-learn、XGBoost、TensorFlow/Keras版本;
随机种子:使用一个全局种子(=42)进行分割、重采样和模型初始化;
分割:使用StratifiedShuffleSplit进行分层的随机80/20保留;
重采样:RandomUnderSampler(sampling_strategy = 1/20, random_state = 42, replacement = False);
超参数网格:受[31]启发,调整为对数间隔范围;
网格搜索:GridSearchCV,cv = 5,scoring = average_precision,n_jobs = ?1;总拟合次数 = |grid| × cv;
CNN收敛:EarlyStopping(monitor = val_loss,patience = 30,restore_best_weights = True)+ ModelCheckpoint(monitor = val_loss);
优化器:Adam(learning_rate = );
硬件:CPU Intel? Core? i9-12900,2.4 GHz;RAM 128 GB,4000 MT/s;GPU Intel? UHD Graphics 770。
2.2. 深度学习
2.2.1. 基于CNN的欺诈检测
深度学习是机器学习的一个子类型,它使用算法来对数据中的高级概念进行建模。深度学习自动从数据中提取相关特征,并从原始数据执行“端到端的学习”以完成任务,例如分类。大多数深度学习方法依赖于神经网络。这就是为什么深度学习模型通常被称为深度神经网络的原因。神经网络的“深度”部分指的是它拥有的隐藏层数。传统的神经网络(只有1-2个隐藏层)是浅层的,而深度网络可以有很多隐藏层。深度学习模型使用大型标记数据集进行训练。深度学习中使用的神经网络架构允许模型直接从数据中学习特征,而无需手动特征提取。
卷积神经网络(CNN)是最流行的深度神经网络类型之一。CNN使用卷积层将学习到的特征与输入数据相结合,并通过直接从数据中提取特征来工作。相关特征不是预先训练的;它们在网络对一组标记数据集进行训练时被保留下来。深度学习模型中使用的自动化特征提取过程使它们在预测任务(如信用卡交易分类)中更加准确。
卷积神经网络旨在检测数据小块中的特定模式或形状,并在处理大型数据集时减少需要处理的空间信息量。它们通过用卷积滤波器层替换常规的全连接层来实现这一点,卷积滤波器层对输入神经元执行卷积操作。卷积操作就像将滤波器滑过输入一样,使用滤波器权重计算输入元素的加权和,并应用激活函数产生类似于典型神经元的输出。卷积操作可以看作是一个从左到右、从上到下扫描输入以识别特定模式的滤波器。模型学习滤波器的权重。拥有多个滤波器可以捕获有助于减少手头任务损失的各种模式。池化层可用于将特征图聚合为更小的图,以便在最终层中总结信息或在中间层中节省内存[12]。
研究发现,人工神经网络在这种类型的欺诈检测中表现良好[1,32,33]。在这项工作中,我们采用了一维卷积神经网络(1D-CNN),遵循[34]中的架构,因为它结合了表示学习和参数共享,提供了有效的归纳偏差,并有助于在少数类数据上的正则化。我们还使用多层感知器(MLP)进行了基准测试;详见附录C进行比较。
与图像或信号不同,交易向量没有自然的空间拓扑结构。在这项研究中,我们采用了一维CNN作为全连接前端的紧凑、参数共享的替代方案。Conv1D层在特征索引上应用相同的少量滤波器,这可以被视为一种受限的线性变换(在线性情况下相当于乘以一个托普利茨结构矩阵),从而减少了自由参数的数量,并提供了在严重类别不平衡情况下通常能提高泛化的归纳偏差。我们强调输入索引不被解释为时间;从(n, 30)到(n, 30, 1)的重塑仅仅是Conv1D实现所需的张量格式。所有方法中都保持规范的特征顺序(时间,V1–V28,‘金额’);V1–V28是PCA组件,而“时间”和“金额”没有进行PCA转换。
为了防止信息泄露,首先使用分层保留划分进行训练-测试分割,所有依赖于数据的转换仅在训练子集上进行,然后应用于验证/测试数据。仅在模型拟合期间通过重新采样训练子集来解决类别不平衡问题(测试子集保持不变,以反映原始操作条件)。为了比较,我们还实现了时间上的4:1分割,以评估时间退化(附录D)。
2.2.2. 架构和训练
采用的CNN由三个带有ReLU激活函数的Conv1D块组成,中间穿插了dropout和批量归一化,随后是最大池化、展平以及两个带有Sigmoid输出的密集层(表1)。我们对核和偏置项都使用了He-normal初始化和正则化[35]。网络使用Adam[36]和二元交叉熵损失[37]进行优化。为了稳定训练并减少过拟合,我们基于验证损失使用提前停止,并通过检查点保存最佳权重。示例学习曲线见图1。在推理时,Sigmoid输出被解释为欺诈概率,并使用默认阈值0.5来获取类别标签。
2.3. 机器学习
机器学习是计算机科学的一个子领域,致力于开发算法,使计算系统能够自主识别模式并从数据中提高性能,从而绕过了特定任务的显式编程需求。如今,机器学习被应用于许多不同的领域[38,39],包括信用卡欺诈检测[12]。
它是一种现代技术,可以替代传统方法,并能够处理人类难以立即访问的大型数据集。机器学习技术可以大致分为监督学习或无监督学习。可以使用任何方法来检测欺诈,但选择通常取决于可用的数据集。
监督学习涉及向模型或算法提供示例输入及其对应的期望输出。然后算法识别输入和输出数据之间的模式和联系,目的是学习一个可以将输入映射到输出的通用规则。训练过程持续进行,直到模型在训练数据上达到满意的准确度水平。通过监督学习,可以根据之前的示例识别异常。在过去的几十年中,已经使用了各种监督方法来检测信用卡欺诈。
逻辑回归(LR)是一种线性概率分类器,它将正类的对数几率建模为输入特征的加权和,并通过Sigmoid链接返回类别概率。通过应用决策阈值(默认通常为0.5)获得类别标签,可以调整阈值以控制不平衡欺诈检测中的假阴性/假阳性权衡。由于其简单的结构,LR速度快,可以通过其系数进行解释,并且通常作为强大的基线使用,通常会进行正则化以提高泛化能力。
k-最近邻(kNN)方法是一种基于实例的分类器,它根据选定的距离度量,在其k个最近的训练样本中通过多数投票为新交易分配标签。实际上,广泛使用Minkowski度量,其中 表示曼哈顿距离, 表示欧几里得距离。由于距离对特征尺度敏感,通常需要标准化,k的选择控制了偏差-方差权衡和对噪声的鲁棒性。
支持向量机(SVM)通过最大化两个类别之间的边界来构建决策边界;得到的分类器仅依赖于训练点的一个子集,即支持向量。对于非线性可分离的数据,核函数隐式地将输入映射到更高维的空间,在那里可以找到一个分隔超平面。主要超参数(例如,惩罚C和RBF核的核参数γ)调节边界-误分类权衡并强烈影响泛化能力。
朴素贝叶斯分类器应用贝叶斯规则来估计每个类别的后验概率,假设给定类别标签时特征是条件独立的。尽管这个假设很少成立,但朴素贝叶斯通常作为一个轻量级的基线表现竞争性很强,特别是当信号分布在许多信息量较弱的特征上时。在这项研究中,我们使用高斯朴素贝叶斯,它通过正态分布对每个特征(每个类别)进行建模,从而实现高效的训练和预测。
决策树分类器通过一系列减少杂质的分割(例如,基于Gini指数或熵)来划分特征空间,产生一组人类可读的if-then规则。它的主要优点是可解释性和无需特征工程即可捕获非线性交互的能力。然而,深度树可能会过拟合;因此,通常使用深度、最小叶节点大小和修剪(例如,cost-complexity pruning viaccp_alpha)来控制复杂性并提高泛化能力。
极端梯度提升(XGBoost)是一个梯度提升的决策树框架,它顺序构建集成模型,其中每棵新树纠正前一个模型的错误。它旨在提高效率和可扩展性,并结合了显式正则化以减少过拟合。优化依赖于梯度信息(通常使用二阶近似),这通常在结构化/表格数据上产生强大的性能,并使XGBoost成为欺诈检测的标准基准。
随机森林是在数据的自助样本上训练的决策树集成,通过在每次分割时只考虑一部分特征来引入额外的随机性。聚合许多不相关的树可以减少方差,并通常与单棵树相比提高鲁棒性。随机森林在异构表格数据上有效,提供概率输出和特征重要性度量,并在不平衡分类设置中作为可靠的非线性基线。
Extra Trees(极端随机树)是一种与随机森林相关的树集成方法,但在分割过程中具有更强的随机性。特别是,分割阈值是随机抽取的(而不是彻底优化的),这增加了树之间的多样性,并可以减少方差和训练时间。与随机森林一样,预测结果在树之间进行聚合;实际上,Extra Trees可以提供具有改进稳定性的竞争性准确度,尽管增加的随机性可能会根据数据集的不同而增加偏差。结果
可以使用各种分类指标来评估模型的性能。这些指标考虑了输出类别的离散性质,并提供了一种比较它们的方法。每个指标都有其优缺点,因此选择最适合当前任务的指标至关重要[40]。本研究中使用的模型通过以下评分进行评估,同时提供它们的95%自助法置信区间(2000次重采样):准确率、精确率、召回率、F1分数[41];马修斯相关系数(MCC)[11]。结果通过混淆矩阵[42]显示。请注意,在我们的案例[8]中,负类是合法的,正类是欺诈交易。
在拟合过程中使用的算法因模型而异,但所有实验都遵循一个共同的、防止数据泄露的工作流程。首先,使用分层随机保留法(固定random_state)将数据分为4:1的比例的训练集和测试集,以确保测试集保留原始的欺诈发生率。所有依赖于数据的转换仅在训练集上进行。特别是,“金额”特征使用基于训练数据拟合的标准化器(零均值,单位方差)进行标准化,然后应用于测试数据。
只有在训练集上进行模型拟合时才处理类别不平衡问题,在此期间我们应用RandomUnderSampler,固定random_state并设置目标比率约为1:20(少数类:多数类),无论是在每个交叉验证折叠中还是在最终模型重新拟合到整个训练集之前。超参数仅通过在训练数据上进行交叉验证搜索来选择,之后在(仅限训练的)重采样数据上重新拟合最佳配置,并在未受影响的测试集上评估一次。所有经典机器学习模型都是使用重采样训练集上的平均精确率进行调优的,并在未受影响的分层保留测试集上进行评估。所有分割、种子和超参数网格都指定为便于精确复制。
在超参数调整过程中,使用网格搜索对每个有影响力的超参数进行彻底测试[31]。通过此过程确定的最佳值详细列在表2、表3、表4以及表A4、表A5、表A6、表A7、表A8和表A9/图2、图3和图4中。超参数仅在训练集上使用5折交叉验证进行调优。对于每个候选配置,我们报告交叉验证的平均分数。最终报告的测试集指标是使用最佳交叉验证配置在完整训练集上重新拟合后计算一次的,且在模型选择过程中从未使用保留测试集。表2. CNN模型在不平衡保留测试集上的性能指标(95%自助法CI,2000次重采样)。表3. XGBoost模型的性能指标和最佳超参数。表4. ET模型的性能指标和最佳超参数。图2. CNN的PR和ROC曲线。图3. XGBoost的PR和ROC曲线。图4. ET的PR和ROC曲线。如果有许多超参数需要调整,组合总数可能会非常大。例如,逻辑回归(LR)的组合数量最少:340个,而XGBoost的组合数量最多:95,536个。后者意味着需要计算476,280个折叠。尽管总体调整时间取决于评估配置的数量、交叉验证方案和计算环境,但现代计算机可以在几分钟内完成这项任务。当然,训练时间应该从定性角度而不是作为普遍常量来解释。
此外,图A5中的图表提供了其他模型性能指标的全面视觉表示。这些图表直观地展示了每种模型在不同场景下的有效性和可靠性,允许我们更细致地比较所探索的各种方法。
需要注意的是,虽然实现高准确率是可取的,但在敏感性(真正例率)和特异性(假负例率)之间的平衡至关重要,尤其是在欺诈检测中。过拟合通常会导致高敏感性,但代价是降低特异性,从而导致大量误报,这在实际应用中是不希望的。因此,我们的分析特别关注这些指标之间的平衡,确保模型不仅准确,而且在现实世界场景中也是实用和可应用的。
在图5中展示了McNemar检验的结果。图5. McNemar表格。
4. 讨论
4.1. 结果回顾与比较
如前所述,有大量研究致力于信用卡欺诈识别。已经有许多尝试使用神经网络来识别欺诈行为[43]。几项最近的调查提供了机器学习和深度学习方法在信用卡欺诈检测方面的广泛概述和比较分析[44,45,46,47,48]以及其他应用[49]。特别是参考文献[9]在颠覆性技术的背景下回顾了信用卡欺诈检测,并强调了处理类别不平衡的重要性,结合了成本敏感学习和使用丰富的评估指标,而参考文献[10]系统地调查了机器学习方法,并强调了特征工程、时间建模和操作约束的作用。
近年来提出了多种深度和混合模型。在[1]中建议了一种结合监督学习和无监督学习的混合技术;作者使用不同粒度级别的无监督异常分数。在[32]中,人工神经网络和机器学习算法被用来区分欺诈交易和合法交易。研究[50]考虑了一种混合重采样方法和LSTM集成分类器。参考文献[51]的作者提出了一种具有多层感知器的人工神经网络,而[52]将多层感知器与其他机器学习技术进行了比较。在[53]中探讨了TabBERT神经网络的性能。在[54]中,研究了一种结合了新型ANN投票机制的集成深度学习模型。在[55]中报告了对不同深度学习方法的广泛探索,发现门控循环单元(GRU)架构表现最佳。最近,Wu等人[14]提出了一种用于信用卡欺诈检测的连续耦合神经网络架构,在基准数据集上表现出更好的性能,而Akour等人[13]引入了一种具有注意力机制的混合CNN-LSTM模型,有效地捕捉了交易序列中的局部模式和时间依赖性。
除了循环和卷积架构之外,基于Transformer的模型最近也成为表格学习的竞争性基线。TabTransformer[56]使用自注意力为分类字段构建上下文嵌入,提高了鲁棒性并提供了一定程度的可解释性,而FT-Transformer[57]提供了一种简化的Transformer适配,通常可以在受控协议下缩小深度模型和梯度提升决策树之间的性能差距。这些方法对于具有异构特征(例如,商家标识符、MCC代码、设备指纹)的现实世界欺诈场景特别相关,其中注意力可以捕捉跨特征的交互作用而无需手动特征交叉。在这里使用的[8]基准中,大多数预测因子是匿名化的PCA组件,这限制了关于上下文分类嵌入好处的结论;尽管如此,将表格Transformer纳入统一的评估流程是一个自然的扩展。由于支付欺诈数据由于监管和保密限制而很少能在机构之间共享,联邦学习(FL)已成为一种在不集中原始交易的情况下进行协作模型训练的实际范式。标准FedAvg方法[58]及其后续调查[59]强调了FL如何在非独立同分布(non-IID)、不平衡的数据下学习共享模型,同时控制通信和隐私风险。最近的欺诈导向工作进一步开发了保护隐私和可扩展的FL协议(例如,Starlit [60]),并将FL与基于图的表示集成用于跨实体信号(例如,FinGraphFL [61])。虽然本研究专注于一个可审计的单数据集基准,但这些结果激励将相同的防止数据泄露和风险对齐的评估协议扩展到多方FL设置,当适当的数据集和治理约束允许时。最后,图神经网络(GNNs)明确地对持卡人、商家、设备和交易之间的关系进行建模,并且在关系结构可用时显示出改进的检测能力。代表性的方向包括抗伪装聚合[62]和一致性感知的邻居建模[63],补充了更近期的领域特定编码器-解码器GNN设计[64]。由于[8]没有提供明确的实体链接;我们的实验无法利用关系边。然而,基于GNN的欺诈检测仍然是一个重要的平行研究方向,也是未来跨数据集验证的有希望的方向。
还经常对常见数据集上的深度学习和机器学习方法进行比较。例如,参考文献[65]使用与本研究[8]相同的数据集,但没有进行平衡处理,再次发现深度学习方法优于其机器学习对应方法。在[66]中,将两种过采样技术应用于[8],并在各种机器学习和深度强化学习算法的背景下进行比较;那里的深度学习模型表现不佳,表明深度架构并不总是更优,其成功取决于数据表示和训练协议。在[67]中,将机器学习方法与[8]下的三种深度学习方法进行了比较;发现当数据充足时,深度学习模型的表现优于其机器学习对应方法,但在小样本上的准确性会下降。
除了选择“更优”的算法外,欺诈识别流程的其他组成部分也同样重要。已经投入了大量注意力到预处理、表示学习和采样上。在[68]中提出了一个由深度自编码器和监督分类器组成的两阶段框架。在[69]中系统地分析了特征提取和数据采样技术,其中随机欠采样结合卷积自编码器产生了最佳结果。在[33]中提出了一种基于神经网络的新型方法,该方法依赖于表示学习。参考文献[70]的作者提出了结合点预测的不确定性量化方法来减轻模型偏差。在[71]中,使用带有特征注意力和生成对抗网络的无监督注意力异常检测网络来分离大规模数据集中的欺诈交易和合法交易。最近的工作进一步扩展了这些想法。Yousefimehr和Ghatee [15]引入了一种保持分布的重采样方法,结合了LightGBM–LSTM架构用于序列级欺诈检测,表明精心设计的重采样可以在保持底层分布的同时显著提高F1分数。Zhao等人[16]提出了一种针对极度不平衡数据的改进型LightGBM,并证明了其在信用卡欺诈检测上的有效性,补充了早期的梯度提升方法。
基于图的和可解释的架构也获得了关注。Cherif等人[64]提出了一种编码器-解码器图神经网络,用于建模持卡人、商家和交易之间的关系,取得了有竞争力的结果,并强调了关系信息的重要性。Baisholan等人[28]提出了FraudX AI,这是一种可解释的机器学习框架,它结合了分类器集合和解释工具,表明在保持对从业者可接受的可解释性水平的同时,可以在不平衡的欺诈数据上实现高性能。
在这种背景下,对常见验证集的比较结果表明,当同时考虑少数类检测和误报控制时,CNN、XGBoost和ET方法提供了最强的整体性能。从数值上看,Extra Trees分类器在准确率()、欺诈类精确率()、F1分数()和马修斯相关系数()方面提供了最佳值,同时与XGBoost和CNN的召回率(表2、表3和表4)相匹配。XGBoost的表现也非常相似,准确率为,精确率为,F1分数为,MCC为。CNN在欺诈检测敏感性方面仍然具有竞争力,因为它达到了相同的召回率()。相反,较简单的基线(例如,LR、DT、NB)可以达到有竞争力的召回率,但在精确率和整体平衡(MCC)方面有所损失,这表明没有单一模型能同时主导所有标准。总体而言,与我们的先前研究[40,72]以及相关工作中报告的指标[8,13,14,32,50,51,55]相比,CNN的结果显示出更优的性能;然而,我们强调,由于分割、重采样、调整和阈值协议的不同,发布的分数往往不能直接比较。因此,这些发现支持了一种风险管理解释,即模型选择和操作阈值应受机构约束的指导(例如,可接受的误报预算与对遗漏欺诈的容忍度),而不是由单一的聚合指标决定。
关于使用经典机器学习进行信用卡欺诈检测的文献也同样丰富。可以在[44,45,47,48,73]中找到综述和立场论文,而[10]提供了对机器学习方法的专门调查。在[74,75,76,77,78,79,80,81,82,83]中应用了逻辑回归、k最近邻、支持向量机、朴素贝叶斯、决策树和随机森林算法的不同子集,其中一些研究将它们的结果与神经网络方法进行了比较。在[84]中使用了梯度提升框架(如XGBoost和LightGBM),并且在最近的贡献[16]中进一步改进了它们的性能。有趣的是,参考文献[85]发现,在某些条件下,线性回归可以产生比人工神经网络更准确的结果,而[86]展示了Light Gradient Booster算法的优势。[28]的FraudX AI框架表明,设计良好的集成模型结合可解释性技术,可以提供强大的性能和对调查人员的可操作性解释。在常见的严重不平衡的验证集上,所有模型都实现了接近完美的准确性(约0.996–0.999),这使得精确度、召回率、F1分数和MCC对于比较评估更加有意义。在剩余的经典模型中,kNN在平衡性能方面是最接近的竞争者(MCC),而NB则展示了典型的类别不平衡权衡,以非常低的精确度为代价获得了可接受的召回率,因此产生了大量的误报(见附录E)。还值得注意的是,RF模型在所有测试方法中获得了最高的召回率(见表A9),表明其具有最强的欺诈交易检测能力。然而,这种优势伴随着只有中等程度的精确度()和较低的MCC(),这表明当最小化漏检欺诈是主要目标时RF是有吸引力的,但在需要更平衡的欺诈捕捉和误报控制之间权衡时则不那么有利。重要的是,McNemar检验(图5)表明,模型之间的差异不仅仅是聚合指标值的假象,也反映在它们的成对错误模式中。特别是,CNN在成对决策中的表现显著优于XGBoost(仅CNN正确的:30 vs. 仅XGB正确的:14)。相比之下,CNN与Extra Trees之间的比较则不那么明确:尽管不一致的计数再次支持CNN(30 vs. 16),但相应的McNemar p值略高于传统的阈值。这表明,在当前的分割下,不能在5%的显著性水平上拒绝边缘假设,即两种模型的成对分类行为非常接近。总体而言,结果表明了一个操作上的权衡:如果最小化误报和分析师的工作量是首要任务,那么具有更强精确度/MCC特性的模型可能更受欢迎;如果最小化漏检欺诈是主要目标,那么集成树方法仍然有吸引力,而阈值调整或模型组合仍然是满足机构对误报率和假阴性率特定约束的实用方法。
4.2. 意义、局限性和未来研究
本文通过提供一个统一的实验框架,系统地比较了几种深度学习和机器学习方法,为信用卡欺诈检测领域做出了贡献。研究的重点是开发和评估基于CNN的模型以及一系列经典分类器,这些模型都针对在严重类别不平衡的情况下识别和预测欺诈信用卡交易进行了定制。通过明确关注召回率、精确度、平均精确度、F1分数、特异性和Matthews相关系数等指标,分析提供了不同模型在代表现实世界数字支付环境条件下的行为细节。一个关键贡献是结合使用重采样技术和超参数优化来减轻数据不平衡并改进模型校准。我们采用随机欠采样来重新平衡数据集,并使用GridSearchCV系统地调整每个分类器的超参数,确保模型接近其性能潜力,而不会过度偏向多数(合法)类别。对于CNN架构,使用正则化、批量归一化和Flatten层将中间特征图向量化,稳定了学习过程,并有助于避免过拟合,从而提高了少数类别的检测性能。通过混淆矩阵和全面的分类报告评估了所得模型,证明了所提出的方法不仅实现了高整体准确性,还保持了误报和假阴性之间的良好平衡,这对于欺诈风险管理系统中的操作部署至关重要。从风险管理的角度来看,我们的实证发现强调了优先考虑假阴性的重要性,而不是为了全局准确性的小幅提升。漏检的欺诈交易可能会造成实质性的直接损失和下游成本,而可管理的误报数量可以通过手动或半自动化调查过程来处理。我们研究中的CNN模型非常适合那些机构愿意接受稍高报警量的环境,以大幅减少漏检的欺诈数量。相反,当调查能力有限或必须最小化客户摩擦时,一些经典模型可能因为其较低的误报率和更高的可解释性而具有吸引力。这一观察结果与最近关于可解释性和成本意识模型的工作(如FraudX AI [28])一致,这些模型明确地在性能和可解释性以及操作约束之间取得了平衡。尽管数据集[8]是一个广泛使用的基准,可以与之前的大量工作进行直接比较,但它仅代表了一个地区和较短的历史窗口。因此,这里报告的绝对性能水平和模型排名应被视为特定于此基准,不能自动外推到其他地理区域、卡片产品、商户生态系统或欺诈策略可能不同的较新时期。另一方面,由于隐私和保密限制,公开的、标记的、真实世界的支付欺诈数据集非常稀缺,这限制了开放研究中的跨数据集验证[87]。作为未来的工作,我们计划将相同的泄漏安全、风险对齐的评估流程扩展到其他数据集和更近期或纵向数据,以便在不断变化的欺诈模式下评估外部有效性和鲁棒性[88]。同时,这项研究有几个局限性,指出了未来研究的方向。首先,所有实验都是在单一基准数据集[8]上进行的。虽然这个数据集被广泛使用并且便于与现有工作进行比较,但它没有捕捉到不同机构、地区和时间段之间交易流的完整异质性。其次,分析是静态的,并没有明确解决概念漂移或欺诈策略的演变。第三,我们处理类别不平衡的方法仅限于随机欠采样,而更复杂的技术——如保留分布的重采样[15]、针对极端不平衡数据的改进提升方法[16],或与时间模型结合的序列重采样[15]——可能会进一步提高鲁棒性。最后,我们没有明确地对持卡人、商户和设备之间的图结构关系进行建模,尽管最近关于编码器-解码器图神经网络[64]和连续耦合神经网络[14]的工作表明,利用关系和时间结构可以带来额外的收益。从部署的角度来看,所提出的模型可以作为低延迟评分服务集成到银行的交易处理流程中(例如,在授权时调用的微服务),决策阈值可以根据机构特定的风险偏好和调查能力进行配置。除了在模型拟合期间进行重采样外,操作部署通常需要成本敏感的决策:如果估计的欺诈概率为,机构指定了误分类成本(误报)和(漏检欺诈),那么(在校准的概率和正确决策的成本为零的情况下),最小预期成本规则将任何交易标记为欺诈。在实践中,可以通过在阈值网格上最小化预期成本或在操作约束下(例如,每天最大误报率/警报次数)来选择。成本敏感性也可以在训练期间通过类别或样本加权目标(例如,神经模型的加权交叉熵)来体现,以反映假阴性的通常更高成本。例如,如果假设漏检欺诈的成本是误报成本的十倍,即,那么成本最优阈值变为。因此,任何估计欺诈概率高于约的交易都会被标记为欺诈。如果认为漏检欺诈的成本是误报成本的百倍,即,那么系统将在预测欺诈概率约为时就已经标记交易。这些案例说明了在避免假阴性方面的更强关注如何导致操作阈值的显著降低,从而增加了召回率,但代价是更高的误报负担。
从许可的角度来看,我们实验中使用的软件堆栈在宽松的开源条款下与商业使用兼容,尽管在受监管的环境中需要进行标准的法律/合规性审查。就处理成本而言,基于树的集成模型通常由于快速的CPU推理和简单的扩展性而在生产中具有吸引力,而深度模型可能需要额外的优化(批量/量化)或硬件加速以满足严格的吞吐量约束。最后,可解释性和治理在当代银行业中至关重要:模型风险管理指南强调文档记录、验证和持续监控,这促使将高性能模型与透明的报告和审计跟踪相结合。为了支持操作可解释性(例如,分析师分诊和原因代码),可以使用事后解释方法(如SHAP或LIME)将每个警报归因于最具影响力的特征,从而在不改变底层预测模型的情况下提供更可解释的决策支持。就未来研究而言,有几个方向看起来很有前景。一个实际的方法是丰富现有的数据和特征空间,例如,通过纳入更详细的行为、时间和基于网络的特征;机器学习经验表明,超过某个点后,更多信息性的数据可能会带来比越来越复杂的算法更大的性能改进。另一个方向是探索根本不同的建模范式。特别是,我们打算校准一个基于遗传算法的欺诈检测模型。关于这一背景下的遗传算法的现有文献相对较少:参考文献[89]概述了用于检测信用卡欺诈的遗传算法的基本原理;在[90]中,遗传算法被用来通过考虑与可用信用限额相关的可变误分类成本来改进现有的欺诈检测解决方案;参考文献[91]通过将遗传算法与散点搜索结合来扩展这项工作;[92]采用纯遗传方法生成分类的关键值集。将这些想法扩展到现代数据集,并将遗传算法与深度学习或集成学习相结合——例如,用于特征选择、规则提取或超参数优化——是自然的下一步。更广泛地说,诸如混合CNN–LSTM模型与注意力[13]、可解释的集成[28]和基于图的架构[64]等技术表明,未来的欺诈检测系统可能会将这里研究的交易级分类器与关系、时间和成本敏感组件结合在一个集成框架中。结合机构特定的成本模型和风险阈值,这样的系统有潜力为管理日益复杂的金融生态系统中的支付卡欺诈风险提供灵活有效的工具。
5. 结论
在快速发展的数字支付领域,打击欺诈活动仍然是金融机构面临的中心挑战。特别是支付卡欺诈的激增,强调了检测机制不仅需要准确,还需要可扩展、稳健且适合实时部署。在这项研究中,我们开发并比较评估了一组先进的模型,包括卷积神经网络和几种广泛使用的机器学习分类器,用于在高度不平衡的交易数据集上进行信用卡欺诈检测。实证结果表明,没有一种方法成为明确的整体赢家。相反,三种模型——提出的CNN、XGBoost和Extra Trees分类器——在主要评估指标上始终表现出色。这三种模型都实现了高欺诈检测能力,仅在假阴性和假阳性之间的平衡上存在适度差异。特别是,基于树的集成方法在精确度、F1分数和MCC方面提供了略微更强的整体性能,而CNN仍然具有竞争力,并且对欺诈交易的敏感性相当。从风险管理的角度来看,这一点很重要,因为漏检的欺诈操作可能导致直接的财务损失和声誉损害,而过多的误报会增加分析师的工作量和运营成本。因此,结果证实,模型选择不应仅由单一指标指导,而应考虑机构的特定优先事项,包括对漏检欺诈的容忍度、可接受的警报量和可用的调查能力。在实际应用中,这也表明使用一组表现最佳的模型(即模型组合或集成)可能比依赖单一分类器更为合适。我们方法的一个关键要素是明确处理严重的类别不平衡问题,并对模型进行仔细校准。通过应用随机欠采样以及通过交叉验证的网格搜索来调整所有分类器的超参数,我们确保模型不会过度偏向多数类。对于卷积神经网络(CNN)架构而言,使用正则化、批量归一化和适当的特征向量化层有助于稳定训练并减少过拟合现象。所获得的模型在与同一数据集相关的多个基准测试中表现出了竞争力或更优的性能,使我们的方法跻身当前信用卡欺诈检测领域的顶尖水平。
然而,这项研究也存在一些局限性,这些局限性指出了未来工作的方向。实验依赖于单一的基准数据集和静态环境,没有明确建模概念漂移或欺诈模式随时间的变化。更复杂的处理不平衡策略、成本敏感的学习方法以及利用时间和关系结构的模型(例如基于图和基于序列的架构)可以进一步提高模型的鲁棒性和适用性。此外,校准特定于机构的成本函数(将假阳性和假阴性与金钱损失及运营约束相关联)将使这些模型能够更直接地融入定量风险管理框架中。因此,未来的研究将集中在两个互补的方向上:一方面,我们计划研究基于遗传算法的方法,既作为独立分类器,也作为特征选择、规则提取和超参数优化的元启发式工具,这建立在关于欺诈检测进化方法的相对较少但前景广阔的文献基础上;另一方面,我们设想将当前框架扩展到更丰富的数据源和更复杂的模型类别,包括混合深度架构和可解释的模型集成,以便更好地捕捉欺诈行为的多样性。
总之,这项工作表明,经过精心设计和校准的深度学习和机器学习模型能够显著提高支付卡欺诈的检测能力,尤其是在通过反映现实世界风险管理优先级的指标进行评估时。研究人员、金融机构和技术提供商之间的持续合作对于将这些方法论进展转化为提升现代金融生态系统安全性、韧性和可信度的操作系统至关重要。