一种用于表格机器学习的图导信号系统评估方法
马里奥·海德里希(Mario Heidrich)、
杰弗里·海德曼(Jeffrey Heidemann)、
鲁迪格·布赫克雷默(Rüdiger Buchkremer)
以及冈萨洛·万多塞尔·费尔南德斯·德·博瓦迪利亚(Gonzalo Wandosell Fernández de Bobadilla)
《Applied Sciences》:A Systematic Evaluation Method of Graph-Derived Signals for Tabular Machine Learning
Mario Heidrich,
Jeffrey Heidemann,
Rüdiger Buchkremer and
Gonzalo Wandosell Fernández de Bobadilla
【字体:
大
中
小
】
时间:2026年03月11日
来源:Applied Sciences 2.5
编辑推荐:
**摘要**
虽然基于图的信号在表格学习中得到广泛应用,但现有的研究通常依赖于有限的实验设置和平均性能比较,从而未能充分探讨观察到的收益的统计可靠性和鲁棒性。因此,目前尚不清楚哪些信号能够提供一致且稳健的性能提升。本文提出了一种基于分类法的实验分析方法,用于评估基于图的信号在
**摘要**
虽然基于图的信号在表格学习中得到广泛应用,但现有的研究通常依赖于有限的实验设置和平均性能比较,从而未能充分探讨观察到的收益的统计可靠性和鲁棒性。因此,目前尚不清楚哪些信号能够提供一致且稳健的性能提升。本文提出了一种基于分类法的实验分析方法,用于评估基于图的信号在表格机器学习中的效果。我们提出了一种统一且可复现的评估方法,以系统地评估哪些类型的基于图的信号能够带来统计学上显著且稳健的性能改进。该方法为将多样化的基于图的信号集成到表格学习流程中提供了可扩展的框架。为了确保公平和严格的比较,该方法结合了自动化超参数优化、多种子统计评估、正式显著性测试以及图扰动下的鲁棒性分析。我们通过一个大规模、不平衡的加密货币欺诈检测数据集的案例研究,证明了该方法的适用性。分析结果表明,某些信号类别能够持续提供可靠的性能提升,并揭示了哪些基于图的信号能够指示欺诈识别的结构模式。此外,鲁棒性分析还揭示了不同信号在处理缺失或损坏的关系数据时的显著差异。这些发现展示了所提出的基于分类法的评估方法在欺诈检测中的实际效用,并说明了该方法如何应用于其他领域。
**1. 引言**
图结构数据提供了丰富的上下文信息,而这些信息通常无法通过经典的表格机器学习流程获取。这类数据在许多现实世界应用中自然出现,包括欺诈检测、社交网络、生物网络和知识图谱。经典的表格机器学习模型通常在独立同分布(i.i.d.)的假设下开发,并在实践中得到广泛使用;当忽略关系依赖性时,违反这一假设的数据可能会扭曲分析和建模[1]。因此,现代表格流程依赖于特征工程来弥补缺失的关系结构[2]。对于图结构数据,基于图的信号是从图结构中提取的定量表示,为建模这些依赖性提供了一种 principled 的方法,从而丰富了机器学习流程[3]。向基于图的信号的转变使它们成为现代表格学习流程的一部分,在这些流程中,预测性能越来越取决于表示质量而非模型复杂性。最近的表格机器学习基准测试表明,预测性能往往更多地受到模型归纳偏差和输入特征质量的影响,而不仅仅是架构复杂性[4]。尽管这些发现源自没有明确图结构的经典表格设置,但它们为优先考虑高质量的特征表示提供了强有力的数据为中心的动机。在图结构领域,这种视角自然地激发了在表格流程中使用明确提取的基于图的信号作为信息性特征表示的必要性。严格的数据为中心的评估进一步强化了这一观点,证明在专家级、数据集特定的特征工程之后,高级模型之间的性能差距显著缩小,将关键关注点从模型选择转向了表示质量[5]。
尽管有这一重要见解,但对基于图的信号的评估和应用往往缺乏类似的原则性和数据为中心的基础。它们的实际效益通常通过有限的、临时性的实验设置来评估,这些设置仅报告了一组有限配置下的平均性能改进。这种狭义定义的基准测试可能会导致有偏的结论,因为模型排名和报告的收益可能对特定的预处理选择和评估协议非常敏感[6]。这种做法留下了几个关键问题未得到解答:报告的收益在随机种子下是否具有统计可靠性且可复现?它们是否对图结构或采样的变化具有鲁棒性?此外,鉴于可能的基于图的信号种类繁多且异质性强,通常事先并不清楚哪些基于图的信号对特定的下游应用任务最具信息价值。因此,转向明确评估鲁棒性和统计可靠性的评估方法对于有意义地比较这些学习方法至关重要[5]。这种系统性评估的缺失使得原则性的模型设计变得复杂,并在该领域得出可靠结论面临挑战。
其他技术领域的最新方法学研究同样强调了系统建模和定量评估的重要性。例如,多摄像头测量系统中的精确建模[7]和工程基础设施的数据驱动结构监测方法[8]展示了在分析复杂结构系统时严格评估框架的更广泛相关性。
为了实现可靠的进展,我们认为必须(i)在统一的评估方法下比较不同类型的基于图的信号,(ii)明确考虑数据分割和模型训练中的随机性,以及(iii)评估观察到的改进是否在统计上显著且对底层图的结构变化具有鲁棒性,而不是偶然现象。在缺乏此类分析的情况下,从业者在从大型且异构的设计空间中选择用于下游表格学习任务的基于图的信号时面临不确定性。
为了导航这一广阔的设计空间,基于分类法的视角至关重要,它可以将基于图的信号根据它们编码的图信息类型进行分组。这种组织方式支持原则性的比较,提高了实证结果的可解释性,并便于在大规模设计空间中进行特定任务的信号选择。
为了解决这些挑战,我们对表格学习中的基于图的信号进行了系统性的、基于分类法的分析。具体而言,我们使用了一种可复现的系统评估方法(SEM),该方法结合了多种子评估、图扰动下的鲁棒性分析以及正式的假设测试,来评估不同类型的基于图的信号在特定下游应用任务下的统计相关性和鲁棒性。这项工作的核心贡献是一种基于统计的评估方法,它能够进行可靠、可解释的、具有鲁棒性意识的基于图的信号比较。
我们通过一个实际的加密货币交易欺诈检测案例研究来演示所提出的评估方法。虽然定量发现必然特定于这个领域,但这个应用作为一个具有代表性的、具有挑战性的基准,展示了所提出评估方法的一般适用性。在这种欺诈检测环境中,实体之间的关系依赖性编码了仅凭交易级别特征无法获取的信息,因为非法活动往往通过复杂的交互链传播。通过在高风险任务中实施该方法,我们展示了如何在具体的图增强表格学习环境中获得基于统计的洞察。
我们的评估是在Elliptic Bitcoin数据集[9]上进行的,这是一个常用的、大规模的、时间性的、高度不平衡的基准数据集,反映了现实世界欺诈检测中的关键挑战。我们分析了不同类型的基于图的信号,包括捕获局部邻域信息的基于 proximity 的信号和编码更广泛基于角色模式的结构性信号,以评估关系信息在哪些情况下以及如何为表格基础提供可测量的价值,而表格基础没有结合基于图的信号。
除了作为方法论演示之外,这个案例研究还为基于图的信号在安全关键应用中的实际效用提供了基于统计的评估。通过结合多种子评估和正式的显著性测试,我们确定了哪些类型的基于图的信号在该环境中能够带来一致且统计上可靠的性能提升。此外,基于分类法的分析通过将不同的信号类别与特征性的欺诈相关模式(如非法活动在局部邻域中的传播)联系起来,促进了解释的便利性。最后,在受控图扰动下的鲁棒性实验揭示了不同信号在处理缺失或损坏的关系数据时的显著差异,突出了鲁棒性作为实际信号选择的关键标准。
通过这个案例研究,我们探讨了以下研究问题,以调查基于图的信号在代表性表格学习环境中的效用、鲁棒性和可解释性:
**RQ1(效用):**基于图的信号是否在统计上显著地优于不包含明确基于图信息的表格基线,这种效应是否因不同的图信息类型而异?
**RQ2(鲁棒性):**不同类型的基于图的信号的性能提升对底层图结构的受控退化(例如随机边移除)具有多大的鲁棒性?
**RQ3(分类法指导):**基于分类法的图信号组织在多大程度上有助于提供可解释的、类别级别的洞察,从而指导图增强表格学习中的信号选择?
本文的其余部分安排如下。第2节概述了所提出的评估方法及其概念基础。第3节介绍了详细的评估方法和统计方法。第4节回顾了基于图的特征和表示学习的相关工作,而第5节介绍了指导我们分析的基于图的信号分类法。第6节描述了基于Elliptic Bitcoin数据集的欺诈检测案例研究。第7节详细介绍了实验设置,包括分类器、数据分割和评估指标。第8节报告并分析了实验结果,包括鲁棒性和统计显著性分析。最后,第9节总结了本文并讨论了对未来研究的影响。
**2. 所提出的评估方法概述**
本文介绍的SEM既作为一种方法论框架,也作为一种实用的工具,用于在监督表格学习中系统地使用基于图的信号。除了提供概念性的评估方法外,SEM还附带了一个完全文档化的、公开可用的实现,可以直接应用于图增强学习任务。整个流程,包括图信号生成、标准化特征构建、多种子监督评估以及在受控图扰动下的统计验证和鲁棒性分析,作为一个开放框架实施并发布。该实现可在GitHub(https://github.com/graph-eval/graph-eval-protocol,2026年3月5日访问)和Zenodo(https://doi.org/10.5281/zenodo.18351526,2026年3月5日访问)上获取,以支持可复现性和重用。该存储库包含配置模板、环境规范和工作流描述,使从业者能够将其适应于自己的基于图的应用领域。Zenodo存档还提供了来自Elliptic案例研究的生成的基于图的信号和中间结果。
SEM旨在具有任务无关性,并适用于任何可以将数据表示为图的结构化监督学习场景。该框架支持从业者系统地识别哪些基于图的信号能够为给定的预测任务提供统计上可靠和稳健的改进。与临时特征工程不同,SEM结合了基于分类法的图信号组织以及在没有控制实验条件下的信号选择、验证和解释的结构化程序。因为特定基于图的信号的效用取决于预测任务和数据特性,这种系统评估对于识别在给定应用中提供可靠收益的信号至关重要。
从概念上讲,SEM解决了一个常见的实际挑战:当存在图结构数据时,通常不清楚应该如何以原则性和有效的方式提取和整合关系信息到监督学习流程中。SEM使得基于统计的比较成为可能,有助于区分稳健和可复现的收益与随机变化。此外,通过将基于图的信号组织成可解释的类别并在特征级别进行评估,SEM支持关于哪些类型的结构信息有助于预测性能的透明推理。这使得该框架特别适用于高风险或数据敏感的应用,尤其是在噪声、缺失关系或不断变化的结构可能严重影响下游性能的情况下,可靠性和可解释性至关重要。
以下部分描述了所提出的评估方法的概念基础、数据流和算法结构。为了使协议对非领域专家更易于理解,附录A提供了一个带有最少输入数据的逐步说明示例。
**2.1. 数据流概述**
图1提供了第2节中介绍的方法阶段的工作流视图。从概念上讲,该方法可以被视为从原始图和表格数据到关于信号效用的基于统计的结论的转换流程。图1. 基于分类法的图信号的评估方法概述。实线箭头表示核心流程,而虚线箭头表示通过图扰动进行的可选鲁棒性扩展。
**2.2. 方法阶段**
在高层次上,评估方法包括以下阶段:
1. 输入数据基础:交易图以及相关的表格节点特征和标签构成了所有实验的共同输入基础。
2. 基于分类法的图信号生成:根据结构化的分类法生成基于图的信号,包括基于中心性的指标、与社区相关的特征以及捕获结构或邻近信息的节点嵌入。
3. 标准化特征工件:表格基础特征和基于图的信号被合并为标准化的特征工件,在所有基线和图增强配置中具有相同且固定的数据分割。这些工件作为所有下游分类器的一致输入,确保可比性,并在分类器和实验运行中无需重新计算即可重复使用。
4. 受控监督评估:每个分类器的超参数在验证数据上优化一次,然后固定在所有多种子评估中,以防止优化偏差。然后在多个随机种子上评估模型,以量化性能变异性。决策阈值以受控的方式进行调整。5. 统计验证:通过配对统计测试来评估基线设置和图增强设置之间的性能差异,具体使用McNemar显著性测试,并结合跨种子的稳健聚合和稳定性分析。6. 最终评估和稳健性分析:将统计验证结果和稳健性分析结合起来,形成对信号效用、稳定性和稳健性的最终、基于统计的评估。这种分阶段设计确保观察到的改进可以归因于所评估的信号,而不是由于数据划分的差异、优化偏差或随机变化。
2.3 方法逻辑(伪代码)
评估方法的核心逻辑总结在算法1中。
算法1:系统评估方法(SEM)流程
算法2:跨种子的修剪均值聚合
算法3:种子级别的McNemar测试结果聚合
3. 方法论:图信号分析的评估方法
我们提出了一种可复现且可配置的评估方法(SEM),旨在评估图派生信号集成到传统表格机器学习流程中的统计影响,该方法支持在交易和非交易图学习任务中的重用。SEM是任务无关的,能够系统地比较基线模型和增强图派生信号的模型。
评估方法支持从预定义的图信息类型分类法中灵活选择图派生信号子集。在我们的实验中,我们考虑了多种图派生信号,包括中心性、凝聚性、社区性、邻近性、光谱属性、结构角色信息以及基于邻域的信息(见第5节)等特征和嵌入。
为了确保统计上可靠的结论,SEM明确考虑了数据划分和模型训练中的随机性。在基线和图增强配置中一致应用多个随机种子,从而实现运行级别的比较。评估方法还支持对来自相同底层实体的多个图变体进行实验,例如通过移除边得到的扰动图,允许在结构变化下进行稳健性分析。
除了标准的多种子评估外,SEM还明确支持在输入图的受控结构扰动下的稳健性分析。在这项工作中,通过在生成图信号之前系统地移除预定义比例的边来评估稳健性,从而在其他实验条件相同的情况下分析不同图信号类别对降级图结构的敏感性。
为了公平比较模型,每个分类器都基于贝叶斯优化进行了自动超参数优化,使用的是树结构Parzen估计器[10]。优化使用了交叉熵损失,这非常适合高度不平衡的分类场景。根据分类器的不同,优化过程中还考虑了额外的机制,如类别加权、重采样策略、特征归一化、特定的嵌入降维、架构选择(如适用)以及模型特定的正则化。重要的是,所有预处理步骤都是以模型感知的方式优化的,并且仅在训练数据上拟合,以避免信息泄露。
所有优化后的模型都在相同的训练-验证-测试分割上进行评估,确保了不同特征配置之间的可比性。详细结果以结构化格式存储,以便进行自动的后续分析。特别是,评估方法支持以下功能:
(i) 使用修剪聚合跨随机种子聚合性能指标,以减少异常运行的影响;
(ii) 通过标准差估计进行稳定性分析;
(iii) 进行统计假设检验,以评估基线和图增强模型之间观察到的性能差异是否具有统计显著性;
(iv) 计算和存储模型特定的特征重要性得分,以进行事后分析。
图派生信号与任务特定的基础特征连接起来,形成增强后的表格表示。然后可以使用标准分类器处理这种统一的表示。
为了减少异常运行的影响并获得稳健的性能估计,我们使用对称修剪均值对随机种子上的??1分数(精确度和召回率的调和平均值)进行聚合,丢弃最高和最低的种子级别得分。修剪均值是对中心趋势的稳健估计,比算术平均值对异常值的敏感性更低[11]。
具体来说,对于每个固定的分类器-信号配置(??,??),我们为基线(仅交易)模型和相应的图增强模型收集?? =10个随机种子的??1分数,其中每个种子对应于具有相同数据划分和训练条件的一个完整实验运行。总共评估了?? =24个不同的图信号。所有分析都排除了朴素贝叶斯,如第8.1节所解释的。
设??(??)?(??,??), ?? ∈{1,…,??}表示在随机种子s下分类器c使用图信号g获得的??1分数。类似地,让??(??)1?(??,base)表示在同一种子下相应的分类器特定基线模型的??1分数。
为了获得稳健的性能估计,我们通过对S个种子级别分数应用修剪均值来获得稳健的性能估计,通过移除最小值和最大值并平均剩余的?? ?2次运行来实现。形式上,给定分类器-信号配置的修剪均值??1分数定义为 ˉ??trim1?(??,??)=1???2?∑??∈??mid??(??)1?(??,??),其中??mid表示在排除最低和最高??1分数后的剩余运行的索引集。修剪后的基线性能ˉ??trim1?(??,base)的计算方式类似。然后计算图信号g对分类器c的性能增益,作为修剪均值性能之间的差异:Δ???1?(??,??)=ˉ??trim1?(??,??)?ˉ??trim1?(??,base)。Δ???1?(??,??)的正值表示相对于仅交易的基线有所改进,而负值表示性能下降。这种聚合策略产生了一个稳健的中心趋势估计,同时减轻了极端种子依赖性变化的影响,同时保持了基线和图增强模型之间的成对可比性。第8节和附录B、附录C、附录E中报告的所有??1分数平均值和性能差异都是使用这种跨随机种子的修剪聚合计算得出的。
为了评估观察到的性能差异是否具有统计显著性,我们将McNemar测试应用于在相同测试分割上评估的基线(仅交易)和图增强模型得到的成对预测。统计显著性在预测层面进行评估,而性能差异则根据聚合的??1分数来报告,如前一节所述。
对于给定的分类器c、图信号g和随机种子s,测试比较基线和相应的图增强模型之间不一致的预测结果。设b表示基线预测正确的实例数,图增强预测错误的实例数;设c表示基线预测错误的实例数,图增强预测正确的实例数。带有连续性校正的McNemar测试统计量为 ??2=(|?????|?1)2??+??。差异与?? ≤0.05被认为是统计显著的。McNemar测试用于描述性地评估跨运行的聚集一致性和效应方向,而不是作为独立的发现声明。该测试分别应用于每个?? =10个随机种子,其中每个种子对应于一个具有固定数据划分和模型初始化的完整实验运行。这确保了在预测层面上完全配对统计比较,并分离了结合图派生信号的效果。
我们没有跨种子聚合p值,而是通过计算每个分类器-信号组合在10个种子中图增强模型相对于基线产生统计显著改进的次数来总结统计证据。具体来说,对于每个(??,??)对,我们记录McNemar测试表明显著改进的种子数量(?? >??),以及表明显著恶化的种子数量(?? >??)。这些计数构成了第8节中报告的聚合显著性分析和可视化的基础。这种聚合策略在保持种子级别统计有效性的同时,提供了对统计显著效应的一致性和方向性的可解释总结。
信号连接和组合评估:评估方法不仅支持单个图信号的评估,还支持通过连接来评估信号的任意组合。对于从预定义分类法中抽取的任何图信号子集?? ?{??1,…,??24},我们定义节点v的连接特征向量为 ??(??)??=[??base??∥??(??1)????∥?∥????(??|??|)??],其中??base??表示原始的交易特征;??(??)??表示图信号g的特征向量;∥表示连接操作符。这种设计使得以下评估成为可能:
- 单个图信号(|??| =1);
- 类别级别的组合(例如,所有基于中心性的信号);
- 涵盖多个类别的较大多信号组合。
上述所有评估指标和统计测试都同样应用于单个和连接的信号配置,确保了跨粒度级别的一致性比较。在第8节中,我们报告了单个图信号和类别级别连接的结果;例如,“中心性”表示表1中列出的所有五个基于中心性的指标的连接。
4. 相关工作
4.1. 经典图指标
经典图指标长期以来被用作手工特征,用于表征复杂网络中的节点重要性和局部连接模式。常见的例子包括基于度的度量、中心性指标(如PageRank和介数中心性),以及捕捉局部传递性的聚类系数。这些特征提供了节点级别结构的可解释摘要,并已广泛应用于基于图的分类和欺诈检测设置中(参见例如Network Science [31])。
社区检测方法通过将节点划分为密集连接的组来扩展这一视角。例如Louvain方法[19]、Infomap [21]和Leiden算法[20]等算法已被证明可以产生稳定且高质量的社区分配,并经常用于在大型交易网络中派生节点级别的社区特征。
4.2. 基于邻近性的节点嵌入方法
无监督节点嵌入方法旨在学习保留图邻近性和局部邻域关系的连续向量表示。基于随机游走的方法,如DeepWalk [22]和node2vec [23],通过截断的随机游走来生成节点序列,并通过建模节点共现来学习嵌入。这些方法代表了广泛采用的用于从图中学习节点表示的无监督嵌入技术类别。
4.3. 结构和角色导向的嵌入方法
除了保留邻近性之外,一类方法明确关注捕捉结构相似性或节点角色,而不依赖于局部邻域。这些方法旨在将具有相似结构功能的节点分组,而不是依赖于直接的邻域重叠。
这些方法主要在如何操作化和通过算法设计选择编码结构相似性方面有所不同。代表性的例子包括GraphWave [26],它利用光谱图小波在多个扩散尺度上编码结构特征;以及基于角色的嵌入方法,如role2vec [27]和ffstruc2vec [25],它们通过捕捉节点角色的相似性来建模结构身份。
4.4. 光谱图嵌入
光谱嵌入技术从图拉普拉斯的特征向量中派生节点表示,提供了图结构的原则性全局视图。通过将节点投影到由非平凡特征向量跨越的低维空间中,光谱方法捕捉了超出直接邻域的连接模式。尽管对于大型图来说计算要求较高,光谱嵌入仍然是图表示学习中的基础方法(例如,Spectral Graph Theory [24])。
4.5. 图神经网络和图对比学习
基于邻域的聚合通常通过图神经网络(GNNs)实现,它们从局部邻域迭代传播和聚合信息以学习节点表示。典型的实例包括图卷积网络(GCNs),它们使用规范化的线性聚合相邻特征[28],以及图注意力网络(GATs),它们通过在邻居上学习自适应的、基于注意力的权重方案来扩展这一范式[29]。这些架构在广泛的节点分类任务中表现出了强大的性能。
最近,图对比学习(GCL)作为一种自监督的表示学习范式出现,旨在通过对比图数据的不同增强视图来学习稳健的节点嵌入。代表性的方法,如基于自举的图表示学习(BGRL)[30],是一种避免显式负样本的基于自举的对比方法,在下游任务中显示出了有希望的结果。
4.6. 图增强表格学习和稳健性
最近的工作开始考虑在不完美数据存在的情况下机器学习系统的稳健性和部署方面,其中数据集质量起着关键作用。关于数据集质量的调查探讨了噪声、缺失数据和生命周期不一致性等问题,并讨论了评估和质量评估框架[32]。
同时,传统的基于树的模型在表格数据上仍然具有很高的竞争力,并且在实际场景中往往优于深度神经网络[4]。这加强了开发可以被表格学习器有效利用的特征表示的重要性。在区块链欺诈检测的领域特定调查中报告了一致的观察结果,其中基于树的方法(如XGBoost)经常表现出强大的性能[33]。这些发现激发了将图派生信息作为特征集成到表格模型中的方法,而不仅仅依赖于端到端的图神经架构。相关的工作还探索了将关系归纳偏见纳入表格预测;例如,TabGSL直接从表格数据中学习图结构以捕获实例和特征关系[34]。
基于图的表示也在不完美数据条件下进行了研究。Imran等人[35]在存在噪声和缺失值的情况下比较了基于表格和基于图的表示方法,提出关系信息可以在特定设置有助于提高鲁棒性。我们的结构方程模型(SEM)通过从模型级别的比较转向基于分类法的信号级别评估,扩展了这些研究工作。我们不是专注于单一的建模范式或数据条件,而是在受控的结构变化下系统地分析了多个类别的图派生信号。此外,SEM提供了一个可复制的框架,整合了多种子实验、统计显著性测试和鲁棒性分析,使得基于证据选择图派生信号用于监督学习任务成为可能。在医疗保健等应用领域的相关调查指出,尽管基于图的方法可以提高预测性能,但他们的结果往往难以解释,并且在不同研究之间难以系统地进行比较[36]。这一观察结果指出了对支持图派生信息可解释和结构化分析的评估框架的更广泛需求。SEM通过实现基于分类法的解释,使得结果可以在图信号类别级别进行分析,而不仅仅是在端到端模型级别进行分析。
5. 用于表格机器学习的图信号分类法
图结构化数据包含了丰富的关系信息,当将其整合到传统的表格机器学习流程中时,可以显著增强预测模型。如前一节所讨论的,这种关系依赖性激发了使用图派生信号与传统的表格特征相结合的愿望[3]。然而,潜在的图信号空间庞大且异质性强,从简单的局部统计量到复杂的学习嵌入都有。在这项工作中,我们使用“图信号”一词来指代从图结构中派生的任何定量表示,这些表示可以与节点关联并整合到下游的表格学习模型中,包括手工制作的指标、无监督嵌入以及基于邻域的学习表示。如果没有一个结构化的概念基础来选择和评估这些信号,实践者将面临信号选择的问题,因为通常不清楚哪种类型的图派生信号对于给定的下游任务最为相关。
近年来,提出了各种基于图的方法,捕捉网络结构的不同方面。将这些方法视为孤立的技术并不合适,而是根据它们从图中提取的信息类型来进行组织是有用的。本节提供了一个简洁的、非穷尽的与图相关的信息分类法,这些信息可以整合到表格机器学习模型中,作为本研究中使用的特征选择的概念基础。本节中介绍的分类法建立在图表示学习和网络分析中已建立的概念和最新研究的基础上[20,21,22,23,24,25,26,27,28,29,30,31]。它整合了常用的图派生信号类别,并为本研究中的比较评估提供了结构化的概念基础。
我们区分了六类基于图的信息,反映了同一底层图的不同结构视角:中心性、凝聚力、社区结构、邻近性、光谱特性和结构角色信息。这些类别在概念上是不同的,但却是互补的,共同涵盖了实践中常用的各种图信号。基于邻域的特征,如GNNs等传递消息的架构所利用的,可以被视为一种聚合机制,结合了多个类别,而不仅仅是一种单独的信息类型。
5.1. 基于中心性的指标
基于中心性的指标量化了网络中节点的重要性或影响力。典型的例子包括基于度的度量、PageRank、介数、接近度或特征向量中心性。这些指标捕捉了节点在整体连接结构中的突出位置,并通常为下游的分类任务提供强力的基线信号。
5.2. 与凝聚力相关的指标
与凝聚力相关的指标描述了节点邻域的局部互联互通性。诸如聚类系数、核心数量或三角形计数等度量捕捉了节点参与紧密连接的子结构的程度。这些信号在局部连接模式有显著差异的领域中特别相关,这些差异反映了图中不同的行为或结构模式。
5.3. 基于社区的指标
与社区相关的指标关注图中的中观结构。社区检测方法将节点分配到密集连接的子图组中,提供了粗粒度的结构背景。社区成员指标可以作为高层次的特征,总结节点超出直接邻域的结构环境。
5.4. 基于邻近性的嵌入
基于邻近性的嵌入在潜在空间中编码节点之间的相对接近性,反映了由图连接性引起的相似性。DeepWalk、node2vec或相关方法可以用来派生这样的基于邻近性的表示,使得具有相似连接模式或重叠邻域的节点在表示空间中放置得比较接近。这些嵌入在捕捉基于距离的相似性和局部上下文方面是有效的。
5.5. 光谱图嵌入
光谱信息来源于与图相关的矩阵的特征结构,如邻接矩阵或图拉普拉斯矩阵。光谱特征编码了全局连接模式,可以捕捉仅通过局部度量难以观察到的结构规律性。
5.6. 结构角色嵌入
结构角色信息旨在根据节点在图的全局拓扑中的位置来表征节点,而不依赖于直接的邻近性。结构嵌入方法专注于识别扮演类似角色的节点,如枢纽节点、桥梁节点或外围节点,即使它们相距很远,例如struc2vec、GraphWave、role2vec和ffstruc2vec等方法所示。
5.7. 图神经网络和图对比学习
GNNs和最近出现的GCL方法构成了一类强大的学习机制,它们通过对节点邻域的信息进行聚合和转换来处理图结构化数据。在所提出的分类法中,这些方法被视为集成的表示学习范式,而不是单独的图信号类型。虽然这些架构本质上能够进行端到端的分类,但在我们的评估方法中,我们具体使用它们作为表示学习器来派生高维节点嵌入,这些嵌入作为后续表格分析的信号。
5.8. 图信号的选择和分类法角色
在这项工作中,我们选择了一组24个代表性的图派生信号,每个分类法中都选取了多个代表(见表1)。选择过程中考虑了分类法的覆盖范围、类别内的概念多样性、先前文献中反映的方法论成熟度以及在大型图上的计算可行性。为了确保评估的信号对应于公认的、概念上基础的图派生信息家族,我们优先考虑了在网络分析和图表示学习文献中反复研究和验证的方法。对于传统的图派生信号,如中心性、凝聚力、社区、邻近性、光谱和结构角色度量,我们选择了在网络科学和图挖掘中被广泛认为是其各自家族的典型代表的方法。这些信号构成表征图的局部、中观和全局结构特性的标准分析工具,并且在实证网络分析中常规用作参考点[31]。它们的 inclusion 确保了跨多个图组织层次的公认结构描述符的覆盖。评估的集合主要由在文献中广泛用作参考点的方法组成。
图表示学习和GNNs的综述和实证研究[37,38]反映了这些信号家族的持续相关性。这种文献基础有助于确保评估的信号代表了稳定且被充分理解的商业图派生信息家族,而不是短暂或高度专业化的技术。对于基于GNN的类别,我们选择了GCNs作为典型的监督基线,以及广泛使用的 incorporating 注意机制的GATs作为扩展。这两种架构都是GNN研究中的标准参考模型,并作为代表性的监督传递消息方法。此外,我们还包括了BGRL [30]形式的GCL作为代表性的自监督方法。BGRL是一种基于自举的图自监督学习的成熟实例,在我们基于分类法的评估中作为GCL家族的概念上独特的代表。与其他类别一样,目标不是识别单个表现最好的GCL方法,而是包括这个信号家族中的一个代表性方法[39,40]。
本研究并不旨在提供所有现有图派生信号的详尽基准。相反,重点在于类别级别的见解,其中单个信号作为更广泛信息类型的代表。因此,基于分类法的设计支持在信息类别层面而不是特定算法层面得出结论,并为解释以下章节中的实验结果提供了概念基础。
在我们的实验设置中,GNN和GCL基础的表示与其他图信号一样被统一处理,通过从最终编码器层提取固定的节点嵌入来进行处理。GCN和GAT编码器在节点分类任务上以监督方式进行优化,而GCL则使用自监督目标进行训练。为了确保公平的评估并防止数据泄露,所有编码器训练严格限制在各自的训练分割内进行。所有基于GNN的表示都是通过包括编码器训练和随后的固定嵌入提取的两阶段程序生成的。这保持了表示学习和下游分类之间的清晰分离,并允许在一致的评估方法下比较监督的、自监督的和纯结构图的信号。
在类别内添加或替换信号的影响本质上是任务依赖的,因为不同的预测任务可能依赖于不同的图模式来确定标签。然而,同一类别内的信号旨在捕捉相关类型的结构信息。因此,用同一类别中的另一种方法替换一个信号通常会保留被建模的一般模式类型,即使定量结果有所不同。因此,本研究的主要结论意在信号类别层面而不是个别方法层面进行解释。图信号是使用固定的、标准的参数设置计算的。本研究重点是比较不同类型图派生信号的评估。
6. 案例研究:椭圆比特币交易上的欺诈检测
所提出的分类法和图信号分析在Elliptic Bitcoin数据集的背景下进行了评估,该数据集是用于加密货币交易网络中非法活动检测的广泛使用的基准[9]。Elliptic数据集表示了一个时间定向的交易图,其中节点对应于比特币交易,边表示交易之间的资金流动。每个节点都与一个带有时间戳的特征向量和一个二进制标签相关联,指示合法或非法活动,其中相当一部分节点保持未标记状态。图结构引入了样本之间的强关系依赖性,违反了经典表格学习背后的独立同分布(i.i.d.)假设。除了这些关系依赖性,值得注意的是,时间序列特征捕获了单个交易的时间动态,但它们主要是在时间上孤立地建模实体。相比之下,图派生信号明确编码了交易之间的交互,如共享邻居或连接模式。由于非法活动通常通过交互实体的网络传播,关系信息提供了纯时间建模无法捕捉的补充见解。
具体来说,该数据集包含203,769个节点和234,355条有向边,分布在49个时间快照中。在标记的交易中,类别分布极度不平衡,非法交易约占标记节点的2-3%,反映了现实的欺诈检测条件。这些特征使得Elliptic数据集成为在严重类别不平衡和结构依赖性下评估图派生信号的具有挑战性和代表性的基准。这本研究不是专注于单一的建模范式,而是调查当将明确提取的图派生信号整合到传统的表格机器学习流程中时,它们对预测性能的贡献。与其旨在优化Elliptic基准上的端到端性能或提出特定任务的欺诈检测模型,不如将数据集作为一个受控的实验环境,以分析明确提取的图派生信号的贡献。重点在于评估图派生信号的包含是否导致在仅交易基线上有统计上显著和可复制的性能改进,以及理解这些效果如何在不同图信号类别之间变化。通过在广泛使用的基准上进行评估,结果旨在提供关于不同图信号类型实用性的普遍见解,而不仅仅是针对基准的具体性能声明。
这种实验框架使得能够分析由所提出的分类法定义的图信号类别之间的性能差异,以及在个别类别内的更细粒度层面的差异,从而有助于结构化地解释哪些类型的图派生信号(如中心性、邻近性或结构角色信息)在现实条件下对欺诈检测最为有益。
7. 实验设置
本节描述了在Elliptic欺诈检测基准上实现所提出的评估方法(SEM)的具体实验设置。我们详细介绍了所考虑的分类器、数据分割、评估指标、超参数优化策略、鲁棒性设置以及用于评估观察到的性能差异显著性的统计分析程序,确保了完全的可复制性和透明度。**预测任务与基线**
预测任务是一个二元节点分类问题,其中每笔交易根据可用的交易层面特征被分类为合法或非法。作为基线,我们考虑了仅在数据集提供的原始交易特征上训练的经典表格机器学习模型,而没有结合任何图谱衍生信号。我们排除了Elliptic图谱的原生特征,因为这些特征是针对这个特定基准设计的,并不是通用的图谱描述符。相反,我们专注于通用的图谱衍生信号,以便在方法和设置之间进行受控和可比较的评估。
图谱增强模型通过将图谱衍生信号与原始交易特征连接起来扩展了这一基线,从而得到一个由相同分类器处理的增强型表格表示。这种设计使得基线和图谱增强模型之间的对比成为可能。
**7.2 分类器**
为了确保广泛覆盖常用的表格学习范式,我们评估了具有不同归纳偏好的多种分类器。具体来说,实验设置包括线性模型、概率分类器、基于核的方法以及基于树的集成模型。具体包括逻辑回归(LR)、朴素贝叶斯(NB)、支持向量分类器(SVCs,使用线性和径向基函数(RBF)核)、多层感知器(MLPs)、随机森林(RFs)和XGBoost(XGB)[41]。这一选择涵盖了广泛的建模假设,包括线性决策边界、概率独立性假设、基于边界的分类以及非线性集成学习。
所有分类器都在相同的实验条件下进行训练和评估,以确保公平比较。每个模型都是使用基于贝叶斯的自动超参数优化独立优化的,每个配置的固定试验次数为50次。在这个统一的优化框架之外,没有进行任何特定于分类器的调整或手动干预。
**7.3 数据分割和随机种子**
我们采用了图谱机器学习中的标准协议[28,42]中的转化评估设置,其中在训练期间假设整个图谱结构是可用的,而标签仅针对相应的训练节点观察。这种设计选择主要是出于Elliptic数据集的特性,该数据集表现出明显的时间非稳定性和制度转变。对数据集的先前分析报告称,随时间发生了显著的结构和标签分布变化,包括在后期时间步骤中的明显转变[9]。在这种设置下,严格基于时间的分割可能会将预测性能与时间概念漂移紧密联系起来,而不是与特定特征表示的效用联系起来。我们的主要目标是在受控和可比较的条件下隔离和比较不同类别的图谱衍生信号的贡献。因此,分层随机分割使得仅在交易数据和图谱增强模型之间的对比成为可能,同时在严重不平衡的情况下保持类比例的稳定,并确保性能差异可以归因于信号本身,而不是时间制度的改变。同时,我们承认Elliptic数据集的明确时间性质,并将前瞻性时间泛化视为一个重要的补充评估场景。然而,在严重概念漂移下分析时间泛化构成了一个与本研究追求的分类学驱动的信号比较相垂直的独立研究问题。
为了考虑数据分割和模型训练中的随机性,我们在多个随机种子下进行了所有实验。这种多种子评估在SEM内实现了基线和图谱增强模型之间的运行级对比,从而可以明确量化由于随机性引起的变异性,而不是隐式平均。使用第3节中描述的修剪均值聚合方法报告了跨种子的最终性能摘要。对于每个种子,数据集使用60-20-20的比例被分层随机分割为训练集、验证集和测试集,并且所有图谱信号配置应用了相同的分割指数。
超参数优化是针对每个分类器和图谱信号配置使用固定的随机种子(种子=42)进行一次,以确保搜索过程的可重复性。然后固定得到的最优超参数,并在所有相应的实验中一致使用,这些实验是在多个随机种子(种子1-10)上评估的,以评估变异性和统计稳健性。
**7.4 超参数优化**
超参数优化是使用贝叶斯优化和树结构Parzen估计器[10]针对每个分类器和图谱信号配置单独进行的,如在hyperopt框架[6]中实现的。优化目标是基于验证集的交叉熵损失。交叉熵(对数损失)被用作一个平滑的替代目标,以实现稳定的概率优化,而最终模型比较依赖于适用于不平衡欺诈检测设置的阈值调整的??1分数。与第3节描述的一般框架一致,如果适用,分类器特定的机制如类别加权、过采样策略、特征归一化和嵌入特定的维度缩放也被包括在优化空间中。
每次优化运行都有固定数量的50次试验。每个分类器和图谱信号配置中表现最佳的超参数配置被选中,并随后在所有随机种子中重现使用,以确保评估的一致性并避免优化和测试之间的泄漏。为了确保完全的可重复性和透明度,所有分类器的完整超参数搜索空间和所有图谱信号生成器的固定参数分别在补充材料S1和S2部分提供。
**7.5 评估指标**
模型性能主要使用??1分数进行评估,该分数平衡了精确度和召回率,并广泛用于高度不平衡的二元分类,从而允许直接比较不同的分类器和图谱信号配置。由于??1分数依赖于阈值,因此决定阈值并未固定在0.5。相反,它在验证集上选择以最大化??1分数,然后不变地应用于相应的测试集。这确保了模型选择与主要评估指标之间的一致性,同时避免了测试泄漏。
我们选择??1分数作为主要指标,因为欺诈检测需要在具体的操作阈值下做出决策。诸如接收者操作特征曲线下的面积(ROC-AUC)或精确度-召回率曲线下的面积(PR-AUC)之类的指标总结了跨阈值的排名性能,而??1分数在选定的操作点评估性能。
为了评估基线和图谱增强模型之间观察到的性能差异是否具有统计显著性,我们对相同的测试分割上的成对预测应用了McNemar测试[43,44],将p ≤0.05的结果视为统计显著的。使用修剪聚合方法汇总了跨随机种子的性能,以减少异常运行的影响。
**7.6 在图谱扰动下的鲁棒性实验**
边删除可以解释为一种受控的结构扰动,用于探测基于图谱的方法对连接性变化的敏感性。基于扰动的分析是研究图谱脆弱性和鲁棒性的成熟方法[45]。通过选择性地改变图谱的拓扑结构而保持节点属性不变,这种设置使我们能够隔离不同图谱衍生信号对底层连接结构的依赖程度。如果一个信号编码了与任务相关的结构信息,那么扰动图谱预计会对其效用产生影响;相反,较少依赖于特定连接模式的信号可能表现出更大的稳定性。从这个意义上说,边删除充当了结构敏感性的诊断工具。
为了评估图谱衍生信号对结构变化的鲁棒性,我们对扰动后的交易图进行了额外的实验。通过在保持原始节点集的情况下随机删除固定比例的边来引入扰动。具体来说,考虑了25%和50%的边删除率来模拟逐渐增加的结构退化程度。
对于每个扰动后的图谱变体,重新计算了图谱衍生信号,并使用与未扰动图相同的实验配置进行评估。这允许在受控的图谱结构退化下分析观察到的性能增益的稳定性。
**7.7 实现细节和可重复性**
所有实验都使用了统一的实验流程来实现,确保了跨配置的一致预处理、模型训练和评估。所有随机种子、超参数搜索空间和评估脚本都是固定的并记录下来,以实现完全的可重复性。所有用于重现本文中报告的实验的代码和配置文件都是公开可用的,包括数据预处理、图谱信号生成、模型训练、图谱扰动下的评估脚本。完整的实验设置,包括配置文件和结果日志,旨在支持自动化的下游分析和统计评估。实验流程是用Python实现的,利用了标准的机器学习库和图谱处理框架,如scikit-learn、XGBoost [41]、PyTorch、Deep Graph Library [46]和hyperopt [6]进行自动超参数优化。确切的软件环境和依赖版本与源代码一起在公共仓库中提供。
**8. 实验结果**
**8.1 评估概述和阅读指南**
虽然实证评估是在一个大规模的欺诈检测基准上进行的,但本节的目标不是最大化特定任务的性能分数,而是系统地研究在不同图谱衍生信号类别下的相对效用、统计可靠性和稳定性,使用统一的严格评估方法(SEM)。
本节报告了通过将图谱衍生信号添加到基于交易的欺诈检测模型中获得的实验结果。我们首先提供了使用相同的数据分割、随机种子和来自固定优化方法的超参数,在所有评估的分类器和图谱信号配置之间进行聚合比较,以实现完全配对的对比。这种设计使得基线和图谱增强模型之间的完全配对、运行级对比成为可能。
性能使用??1分数进行衡量,报告为多个随机种子的修剪均值和标准差。所有结果都遵循第7节中描述的评估方法,超参数基于使用种子42的配置特定优化程序进行固定,并且性能是在十个独立运行(种子1-10)上使用修剪的??1分数统计量聚合的。所有报告的随机种子仅影响数据分割和模型训练,包括初始化和优化的随机性。图谱衍生信号是为给定图谱确定性地计算的,并在所有运行中保持不变。
为了评估观察到的性能差异的鲁棒性和统计相关性,我们还在p ≤0.05的显著性水平上应用了成对的McNemar显著性测试;我们通过统计显著的改进和恶化次数来汇总跨随机种子的结果。
结果在多个聚合级别上呈现。我们首先分析了跨图谱信号类别的总体性能趋势,然后是特定于分类器的效应、跨随机种子的稳定性以及统计显著性模式。图谱信号被分为概念类别,即中心性、凝聚力、社区性、邻近性、光谱性和结构性,以及基于GNN的表示的单独类别。类别级别的结果是通过在第3节中描述的方式明确连接类别内的所有单个图谱信号获得的。此外,附录B中提供了所有24个单独图谱信号的详细结果,附录C中提供了相应的变化性统计信息。
对于跨分类器的聚合性能比较,我们从分类器平均聚合中排除了朴素贝叶斯,并报告了剩余分类器的平均值。尽管如此,为了完整性和透明度,朴素贝叶斯的结果仍然显示在所有表格中,以便读者检查在图谱增强特征空间下的经典概率基线的行为。由于其条件独立性假设,朴素贝叶斯在利用图谱衍生信号引起的相关和交互式特征结构方面存在固有的限制。这导致其性能行为与其它评估的分类器相比处于明显不同的尺度上,这反过来可能会偏见跨分类器的聚合结果。因此,对于旨在总结具有广泛相似建模假设的分类器之间的趋势的聚合比较,它的信息量较小。为了完整性,包括朴素贝叶斯的分类器平均结果在补充部分S5中提供。这些不会改变研究的总体结论。
接下来,第8.2节关注跨图谱信号类别的聚合性能趋势。第8.3节和第8.4节分别分析了特定于分类器的效应和跨随机种子的稳定性。第8.5节提供了正式的统计显著性分析,第8.6节则在图谱扰动下进行了鲁棒性研究。
**8.2 图谱信号的总体性能影响**
在聚合分析中包含的所有评估分类器中,图谱衍生信号的集成导致了相对于仅基于交易的基线的性能提升。图2总结了相对于仅基于交易的基线的平均??1分数提升。平均来看,大多数图谱信号类别在??1分数上都有积极的提升,表明从交易网络捕获的关系信息提供了超出节点本地交易特征的补充预测能力。图3显示了所有信号类别下的详细分类器性能(带标准差的??1分数),揭示了大多数模型-信号组合的一致性提升。对于所有24个单独图谱信号和分类器的详细结果分解,请参见附录B(平均??1分数)和附录C(跨种子的标准差)。图信号类别的平均??1分数提升相对于仅包含交易的基线情况,这些数据是通过对分类器和随机种子(经过修剪后的聚合)进行汇总得出的。图3显示了每个分类器在各个图信号类别上的??1分数。单元格值表示随机种子下的平均??1分数及其标准差。加粗的数值突出了相较于仅包含交易的(TRX)基线的平均??1分数提升。颜色强度表示与仅包含交易的(TRX)基线的相对性能差异(绿色=提升,红色=下降)。在所有评估的类别中,基于GNN的表示方法实现了最强的平均性能提升。值得注意的是,GNN是本研究中最唯一一种在表示学习过程中明确结合了来自相邻节点的特征信息的方法。尽管基于GNN的表示方法实现了最强的平均性能,但补充材料中的上限分析(第S3节的图S1)显示,基于邻近性的图信号在所有评估的图信号类别中实现了最高的绝对??1分数。基于邻近性和基于社区的信号一致性地优于纯粹的结构或频谱表示方法。这种模式符合直觉,即关系密切度和共享的交易背景在欺诈检测场景中特别具有信息价值,因为非法活动往往会在局部社区中传播。尽管在我们的分类体系中,基于邻近性和基于社区的信号被视为不同的类别,但它们都在不同抽象层面上编码了关系密切度。基于邻近性的表示方法更强的性能表明,在这种场景中,以连续和细粒度的方式建模关系密切度可以提供比离散的群体划分更丰富的信息。
总体而言,这些结果表明,在这种设置中,基于图的增强方法通常是有益的,同时也强调性能提升在很大程度上取决于所结合的关系信息类型。特别是那些明确捕捉关系密切度和社区背景的表示方法往往能够带来最显著的改进,而更全局的或纯粹的结构描述符则只能提供有限的额外收益。虽然这些平均性能提升初步表明了基于图的信号的好处,但它们的统计可靠性和稳健性将在后续章节中进行探讨,包括第8.5节中的正式显著性分析。
8.3 分类器特定效应
基于图2中汇总的类别级别趋势(总结了所有分类器的平均效应),我们分析了图信号的有效性在各个分类器之间的差异,如图3所示,这反映了模型能力和归纳偏差的差异。在讨论经典分类器之前,我们简要讨论了基于GNN的表示方法的作用,这些表示方法是我们的评估中图信号的主要来源。为了更好地理解基于GNN的表示方法的性能,我们还将端到端的GNN模型与那些从训练好的GNN编码器中提取的固定节点嵌入与交易级别的特征连接起来,并使用经典的表格分类器进行处理的情况进行了比较。尽管端到端的GNN在Elliptic数据集上获得了强大的预测性能,但当与优化的表格模型结合使用时,基于嵌入的配置能够获得更高的平均??1分数。这一观察结果表明,在评估的设置中,GNN主要作为有效的表示学习器,而下游的表格分类器在类别严重不平衡的情况下提供了更灵活的决策边界。重要的是,这种比较旨在作为一种解释性的辅助,而不是直接的架构比较,因为两种方法都是在不同的建模假设下进行评估的。
基于树的集成模型,特别是随机森林和XGBoost,在大多数图信号类别中都表现出了强大且稳定的性能提升。这种行为与基于树的集成模型处理异构和部分冗余特征集的能力是一致的,这可能有助于有效整合互补的图派生信号。这些模型始终从额外的结构特征中获益,在中心性、社区性、邻近性和基于GNN的表示方法上都观察到了改进。这一观察结果与最近的表格机器学习研究结果一致,这些研究表明,当与信息丰富的特征表示结合使用时,基于树的集成模型通常优于深度学习方法,因为它们对异构特征尺度具有鲁棒性,并且能够利用互补的特征交互作用[4]。SVC在多个图信号类别上相对于仅包含交易的基线显示出了实质性的相对改进。然而,这些改进伴随着方差的增加,表明它们对特征选择和随机初始化更加敏感。
线性模型如LR和浅层神经网络(MLPs)显示出了适度但稳健的提升,表明即使是相对简单的分类器在适当优化后也能利用图派生信号。相比之下,朴素贝叶斯分类器对图增强反应最小,其性能在信号类别之间几乎没有变化。总体而言,这些结果强调了图派生信号的有效性取决于下游分类器的选择,而表达能力更强的模型往往能从额外的关系信息中获益更多。
8.4 随机种子的稳定性和方差
为了评估观察到的改进的稳定性,我们分析了随机种子之间??1分数的变异性。在大多数分类器和图信号类别中,性能的标准差与仅包含交易的基线观察到的标准差相当或更低。观察到的变异性通常较低,标准差通常在??1分数的几千分之一范围内。图A2报告了各个图信号和分类器在随机种子下的??1分数的标准差。当在图信号类别级别汇总变异性时(见图2),观察到了一致的模式,这证实了稳定性趋势超越了单个信号实现的情况。观察到的性能提升通常超过了相应的运行间的变异性,表明效应大小不仅仅是由随机波动主导的。这一观察表明,图信号引入的性能提升并不是由有利的随机初始化或特定的数据分割驱动的。相反,运行间的低方差表明图增强在评估的设置中提供了可靠且可复制的改进。在某些情况下,图增强甚至减少了变异性,表明对模型行为有稳定作用。然而,对于与某些基于中心性的信号结合使用的SVC来说,情况有所不同,它们表现出增加的方差。尽管如此,总体模式表明图派生信号引起的改进通常是稳健且可复制的。
8.5 统计显著性分析
为了统计验证观察到的性能提升,我们进行了配对McNemar测试,以评估随机种子之间的改进是否具有统计显著性,遵循第3节中描述的配对、运行级别测试方法。图4可视化了图信号类别级别的聚合McNemar测试结果,总结了在各个分类器中统计显著改进与退化水平的数量。顶部行总结了所有分类器中的净显著性模式,显示所有检查的图类别中,显著改进主导了显著的退化水平,其中基于GNN的表示方法、基于邻近性的嵌入和基于社区的信号表现出最强和最一致的显著改进优势。图4显示了各个分类器中图信号类别的聚合McNemar测试结果。每个单元格代表了统计上显著的改进(p ≤0.05)与退化之间的平衡。较深的绿色阴影表示显著的性能提升频率更高,而较深的红色阴影表示相对于仅包含交易的基线的显著退化更为频繁。总体而言,这些结果确认了图的派生信号所带来的性能提升不仅在数值上是有意义的,在配对的、运行级别的显著性测试下也是统计上可靠的。附录D提供了按信号级别对分类器和运行之间的McNemar测试结果的详细分解。
8.6 在图扰动下的稳健性
本节报告了第7.6节中介绍的边缘删除鲁棒性实验的结果。所有图派生信号都是在随机稀疏化的交易图上计算得出的,这些图的交易边被移除了25%和50%,而实验设置的其他方面保持不变。为了确保在不同扰动级别之间的可比性,所有分类器都是使用之前确定的最优超参数进行评估的。图5展示了随着边移除量的增加,图信号类别相对于仅包含交易的基线的平均Δ???1变化情况。附加细节在附录E中报告,其中图A5和图A6提供了每个边缘移除级别的详细结果矩阵,图A7展示了分类器特定的稳健性趋势。如图5所示,随着边移除量的增加,图信号类别的退化轮廓各不相同,表明在不同类型的图派生信号下,鲁棒性有显著差异。图5显示了随着边移除量的增加,图信号类别相对于仅包含交易的基线的平均Δ???1变化情况。基于邻近性的信号在边移除下的性能下降最为明显,平均??1分数的提升随着图的稀疏化而迅速下降。这种行为表明它们对多跳邻居结构有很强的依赖性,这特别容易受到随机边删除的影响。基于社区的信号显示出更渐进但一致的性能下降,表明在结构退化下具有中等程度的稳健性。虽然在轻微的扰动下这些信号仍然有益,但随着社区结构变得越来越碎片化,它们的有效性会减弱。
基于凝聚力和中心性的信号显示出相对温和的退化;然而,它们的稳健性在分类器之间并不统一(见附录E中的图A7)。对于一些下游模型,这些信号在适度边移除下保持稳定,而对于其他模型,它们的贡献则有所下降,表明这种敏感性依赖于分类器。结构嵌入显示出异质的稳健性行为。虽然某些分类器在边移除下保持稳定或仅有轻微的退化,但其他分类器的性能则明显下降,这表明这种稳健性强烈依赖于嵌入方法与下游分类器之间的交互作用。相比之下,基于GNN的表示方法在所有扰动级别上都表现出最强的整体稳健性。尽管性能随着边移除量的增加而下降,但基于GNN的信号相对于仅包含交易的基线始终保持了积极的提升。
观察到的退化模式与每个信号类别编码的结构信息类型一致。如图5所示,基于邻近性的嵌入显示出最明显的性能下降。这种更高的敏感性在理论上是预期的,因为这些方法严重依赖于局部邻居连通性和随机游走共现统计,而随机边删除会系统性地破坏这些因素。移除边会改变对这些表示至关重要的短距离路径和局部转换概率。相比之下,基于社区的信号和结构角色信号显示出更渐进的退化(例如,图5中的基于社区的信号即使在50%的边移除下也保持了正的Δ???1)。这种相对稳定性与它们的设计是一致的,因为它们捕捉到更全局或中观的图属性(如群组成员身份或结构角色),这些属性较少依赖于单个边,因此在适度的随机扰动下更加稳健。这些差异与分类法驱动的分类一致,并为我们在实验中观察到的稳健性模式提供了原理性的解释。总体而言,这些结果表明,在图扰动下的稳健性高度依赖于信号和分类器。在完整图中表现出相似平均性能的类别在结构退化方面的敏感性可能有显著差异,这强调了在评估图派生信号的实际效用时,同时评估稳健性和效应大小的重要性。
9. 讨论
第8节中呈现的结果为回答引言中提出的问题提供了实证基础。在本节中,我们将这些发现综合起来,通过将性能、稳健性和可解释性模式与所考虑的应用场景中不同类型的图派生信号联系起来,来回答研究问题。具体来说,这次讨论考察了图派生信号是否提供了相对于仅包含交易的基线在统计上可靠的性能提升,以及这些效应在不同信号类别间的变化情况(RQ1),在受控的图扰动下观察到的性能提升的稳健性如何(RQ2),以及图信号的分类法驱动的组织在多大程度上支持对特征性欺诈相关模式的可解释的、类别级别的洞察(RQ3)。
第8节中呈现的实验结果是通过一种刻意控制和基于统计的评估方法(SEM)获得的。通过灵活结合分类法驱动的图信号整合、自动化超参数优化、多种子评估和正式的显著性测试,所提出的评估方法能够对图派生信号进行可靠、可比较和可解释的评估,适用于表格学习。本研究旨在系统地评估图派生信号是否以及在什么条件下能够为图增强表格机器学习提供可测量的、统计上可靠的和稳健的性能提升。以交易网络上的欺诈检测作为案例研究,结果提供了一致的证据,表明结合关系信息能够带来持续且统计上显著的改进。同时,它们揭示了这些提升的幅度、稳定性和稳健性在很大程度上取决于图派生信号的类型、下游分类器以及底层图结构的质量。
9.1 图派生信号的有效性
在所有分类器、图信号类别和单个图信号中,图派生信号的整合都带来了相对于仅包含交易的基线的稳定且统计上可靠的改进,这些改进在大多数评估的分类器-信号组合中都有观察到,而不仅仅局限于某些孤立配置。这表明从交易图中捕获的关系信息提供了超出节点级交易特征的补充预测能力。从定性角度来看,图信号的有效性受到其所编码的关系信息类型的强烈影响。在这种环境下,编码局部关系亲和力和邻域背景的信号显得特别有益。这一观察结果与直觉相符,即交易网络中的非法行为通常会在局部邻域中传播,因此基于亲和力的表示非常适合用于欺诈检测任务。相比之下,更全局的或基于频率的表示仅提供有限的额外好处,这表明并非所有形式的结构信息都对这个应用领域具有同等的信息价值。尽管在提出的分类法中,基于亲和力和基于社区的信号被视为不同的类别,但两者都在不同的抽象层次上捕捉了关系亲近性。基于亲和力的表示的更强性能表明,以连续和细粒度的方式对关系亲近性进行建模可以传达比离散的组分配更丰富的信息。这突出了在评估图信号的有效性时,不仅要考虑编码了哪些结构属性,还要考虑它们的表示方式。
总体而言,这些发现表明,基于图的增强效果与信号类型、表示粒度以及底层任务的关系特征之间的对齐程度密切相关。
9.2. 分类器特定的交互和模型容量
图信号的有效性在不同分类器之间差异很大,反映了模型容量和归纳偏置的差异。基于树的集成模型,特别是随机森林和XGBoost,从基于图的增强中受益最为一致。这些模型非常适合利用异构的、可能冗余的特征集,并且在几乎所有图信号类别中都表现出稳定的改进。这些发现与更广泛的证据一致,即在表格学习环境中,模型性能往往更多地取决于特征质量而非架构复杂性[4]。虽然之前的工作强调了特征质量在经典表格学习中的普遍重要性,但它没有解决当有多种图表示策略可用时如何系统地评估图关系信息的问题。在实践中,图派生特征通常是以临时方式选择的,或者完全被端到端的GNN模型所替代,而没有系统地评估它们的统计可靠性、鲁棒性或可重复性。我们的工作通过引入一个基于分类法驱动且具有统计基础的系统评估协议来解决这一需求。
SVC在许多图信号配置中显示出相对于仅使用交易的基线的显著相对改进。然而,这些收益伴随着随机种子之间变化性的增加,反映了基于支持向量机(SVM)的模型对数据分割、特征缩放和超参数设置的已知敏感性。虽然图信号可以显著提升SVC的性能,但这些结果强调了在使用基于边际的分类器进行图增强时仔细进行模型调优和稳定性分析的重要性。
线性模型和浅层神经网络显示出较为温和但稳健的改进,表明即使是比较简单的分类器,当图派生信号构建得当时也可以从中受益。相比之下,朴素贝叶斯分类器对图增强的敏感性最低,表明条件独立性假设与图派生信号表示之间的兼容性有限。
9.3. 稳定性、可变性和鲁棒性
除了平均性能提升之外,图增强模型在随机种子之间的稳定性也是一个关键考虑因素。结果表明,大多数分类器和图信号类别的??1分数的标准差保持较低,通常在几千分之一左右。在许多情况下,图增强甚至减少了相对于仅使用交易的基线的运行间变异性,表明对模型行为有稳定作用。
重要的是,在完整图下表现出相似平均性能的图信号类别在对抗结构扰动的鲁棒性方面可能存在显著差异,这突显了仅凭平均效应大小不足以评估实际效用,而需要明确的鲁棒性评估。从实际角度来看,这些发现意味着选择图派生信号时,不仅要考虑在理想图条件下的平均性能,还要考虑预期图结构中的噪声、不完整性或不确定性。鲁棒性模式在不同图信号类别和扰动级别之间差异很大,这强调了在选择图派生指标用于下游任务时,考虑信号类型意识的鲁棒性评估的重要性。观察到的性能提升通常超过了相应的运行间变异性,表明改进反映了纳入关系信息的系统性效应,而非随机波动。最后,结果表明图派生信号的好处并不完全取决于分类器,因此在设计图增强表格学习流程时,应综合考虑信号选择和分类器选择。
9.4. 性能提升的统计显著性
成对的McNemar显著性测试提供了图增强模型与仅使用交易基线之间性能差异的统计评估。在第3节介绍的多分类器、多信号组和多种子评估设置中,大量成对比较显示出相对于仅使用交易的基线的统计显著改进。当结果在图信号类别级别和单个信号级别上进行汇总时,这种模式仍然存在,表明有益效果是系统的而非偶然的。
基于亲和力的和基于GNN的表示显示出特别强且一致的意义模式,而谱特征则显示出混合的结果,这与它们平均性能提升有限的情况一致。重要的是,显著的性能下降总体上是罕见的,主要发生在孤立的分类器-信号组合中,而不是作为系统性趋势出现。
9.5. 解释和方法论意义
本研究的发现表明,将图派生信号纳入表格学习流程可以在加密货币交易欺诈检测的背景下产生统计显著且可重复的性能提升。从方法论的角度来看,SEM使得能够系统和基于分类法地将多样化的图派生信号集成到表格学习流程中。灵活的信号分组、受控的超参数优化和正式的统计评估使从业者能够识别哪些类型的图信号对特定下游任务具有统计显著且稳定的好处。特别是,结果强调了选择与目标问题的结构特征相一致的图信号类型的重要性,因为不同信号类别在结构扰动下的性能影响和鲁棒性有很大差异。
此外,包含受控的结构扰动提供了一种实用机制,用于评估不同图信号类别对不完整或退化的图结构的响应。观察到的退化模式异质性强调了鲁棒性高度依赖于信号类型,因此在信号选择时应明确考虑这一点。
在评估的加密货币交易欺诈环境中,基于GNN的表示实现了最强的整体性能提升。值得注意的是,GNN是本研究中唯一明确在表示学习期间结合了来自相邻节点的特征信息的方法类。虽然多种因素可能对其有效性有所贡献,但这一观察突显了局部关系背景在这一应用领域中的潜在相关性。
除了基于GNN的表示之外,基于亲和力和面向社区的图信号也显示出强烈且一致的性能提升,表明关系亲近性和中观分组信息特别具有信息性。相比之下,纯粹的结构或谱表示显示出更多异质的效应。重要的是,这些观察结果特定于分析的交易网络,不应被解释为跨领域图信号类型的通用排名。
除了预测性能之外,基于分类法的图信号类别评估为下游任务的模式导向分析提供了基础。通过检查哪些类型的图派生信号产生了持续且稳健的改进,评估方法支持对图的结构方面(如交易网络中的欺诈检测)哪些是有信息量的进行高层解释。
为了补充基于分类法的性能分析,我们使用SHAP(SHapley加性解释)[47]进行了特征重要性分析。这种事后分析提供了关于哪些图派生信号家族对最终模型决策最具影响力的见解。详细结果和方法论说明提供在补充材料S4中。
除了这些模型级别的洞察之外,区分所提出框架的通用性和实证发现的任务特定性也很重要。所提出的评估方法旨在作为一个通用的、可迁移的框架,用于图结构数据的监督学习,而这里报告的实证发现必然与分析的交易网络欺诈检测任务的特性相关。特定图信号类别的相对有效性和鲁棒性取决于任务特定因素,如关系结构、任务相关的结构模式和数据质量。因此,本研究的目的是不是建立图派生信号的通用排名,而是展示如何在受控环境中进行基于统计基础和分类法驱动的评估。将该框架应用于其他任务和数据集可能会产生不同的性能模式,可以使用相同的方法进行系统分析。
9.6. 实际意义和商业价值
本研究的实证结果对在严重类别不平衡和监管限制下运行的欺诈检测系统具有直接的实际意义。它们表明,明确提取的图派生信号在整合到传统的表格机器学习流程中时,可以在欺诈检测性能上产生一致且统计显著的改进,从而提高精确度和召回率,这是金融犯罪检测中的关键性能维度。从实际角度来看,所提出的评估方法的主要贡献不在于为给定应用任务规定图信号类型的固定排名,而在于提供一种系统和基于统计基础的程序来评估它们的效用。
正如在所呈现的欺诈检测案例研究中所示,图派生信号的相对有效性、稳定性和鲁棒性在不同信号类别和分类器之间存在显著差异。重要的是,这些模式是任务依赖的,不应假设它们可以在应用领域之间推广。所提出的评估方法使从业者能够在受控的实验条件下识别哪些类型的图派生信号对其特定任务、数据特性和操作约束具有统计显著和稳健的好处。在实际意义上,这意味着信号选择应考虑应用程序已知的数据质量约束。例如,在交易图预计不完整或部分观察到的情况下,如某些交易渠道的访问受到限制时,我们的案例研究结果表明,更多地关注更粗粒度或基于角色的图信号类别可能会比主要依赖基于亲和力的信号产生更稳定的性能,后者对图扰动表现出明显的敏感性。
在受监管的环境中,可解释性和可审计性往往与预测性能同样重要。在评估环境中表现特别好的几个图信号类别,如基于社区的指标,本质上是可解释的,并提供了关系结构的透明表示。这促进了信号级别的透明度和模型的可审计性,而不依赖于不透明的端到端图神经架构。
最后,我们案例研究中的鲁棒性实验表明,不同的图信号类别对不完整或退化的图结构表现出明显不同的敏感性。在评估的欺诈检测环境中,这使得从业者能够识别在交易图稀疏、部分观察或受到数据损失时哪些类型的图派生信号仍然具有信息性。因此,所提出的评估方法为评估给定下游任务下哪些图派生信号在不完整或退化的图结构下保持预测效用提供了原则性机制。
9.7. 局限性和未来方向
尽管所提出的评估方法和基于分类法的分析旨在通用并适用于广泛的图增强表格学习任务,但本研究中呈现的实证结果是从单一的大规模加密货币欺诈检测基准中获得的。因此,定量性能提升、鲁棒性模式和不同图信号类别的相对有效性应在这个特定应用背景下进行解释。
不同的应用任务可能表现出不同的关系结构、标签生成过程和噪声特性,这可能导致图信号类别和图模式的不同相对效用。所提出的评估方法旨在支持这种特定于任务的评估,而不是建立图派生信号的通用排名。
同时,Elliptic数据集构成了一个具有挑战性且具有代表性的真实世界基准,其特征是强烈的关系依赖性、严重的类别不平衡、欺诈活动随时间的非平稳性和制度转变,以及噪声图结构。这些属性使其非常适合于测试图派生信号的统计可靠性和鲁棒性。观察到的模式,例如基于距离的信号具有很强的有效性,以及对图结构扰动的明显敏感性,这些现象表明了在不同类型的图派生信号在现实条件下的行为特征,而不仅仅是针对特定基准的性能声明。重要的是,这项工作的主要贡献不在于在这个数据集上取得的绝对性能水平,而在于系统化的、基于统计的评估方法和由分类法驱动的视角。这些组件可以直接应用于其他领域和数据集,从而能够对图派生信号进行可比的分析,而不仅仅局限于这里考虑的特定案例研究。
从实际角度来看,未来的工作将进一步提高协议的自动化程度,以减少配置工作并便于在新领域中的应用。这包括更高层次的包装器和模板,用于数据集的导入和信号选择,以及从信号生成到统计验证和鲁棒性分析的更流畅、更用户友好的执行流程。
在每个类别中评估的图派生信号集并不全面。虽然选择了具有代表性的信号类型来覆盖广泛的结构信息,但额外的图信号和替代的公式可能进一步丰富分析内容。扩展每个类别中的信号代表集可以提供更细致的类别内部变异性洞察。
为了优先考虑可比性和统计严谨性,做出了一些设计选择,这些选择也带来了一些限制;图信号是确定性计算的,并且在随机种子之间是固定的,从而允许在分类器和评估运行之间进行清晰的配对比较。然而,这种设置并没有明确涵盖来自替代图构建过程或随机图信号生成的额外不确定性。同样,尽管在模型之间一致地应用了超参数优化,但更广泛的超参数空间、额外的优化尝试或替代的优化目标可能会进一步提高绝对性能。
尽管采取了广泛的措施来减轻变异性,包括自动化的超参数优化、多个随机种子、多样化的分类器家族、正式的显著性测试和修剪后的性能聚合,但残余的随机效应和数据集特定的偏差仍然可能影响观察结果,这是所有实证机器学习研究中的常见现象。
最后,我们注意到所提出的分类法是对连续且异构的设计空间的抽象。虽然各个类别捕捉了不同类型的结构信息,但类别之间的界限并不总是严格的,某些图信号可能表现出多组的特征。因此,这个分类法旨在作为一个实用的组织方案,而不是一个严格的分类系统。
未来的工作可以从几个方向扩展所提出的评估方法,包括评估更多的图信号代表和分类器家族,结合随机或任务适应性的图信号生成,将鲁棒性分析扩展到动态或随时间演变的图,以及探索超出二元欺诈检测的替代评估方法。更一般地说,所提出的评估方法为在受控实验条件下系统化和可扩展地评估图派生信号提供了基础。
**10. 结论**
本文介绍了一种系统化的、基于分类法的评估方法(SEM),用于评估表格机器学习中的图派生信号。该评估方法提供了一个概念框架,使得能够对根本不同类型的关系信息进行结构化和可解释的比较。该方法结合了多种子统计评估、正式的显著性测试和在图结构扰动下的鲁棒性分析,从而实现公平和可靠的比较。
应用于大规模的加密货币欺诈检测案例研究时,这种分类法引导的方法得出了三个关键见解。首先,尽管图派生信号一致地提供了比表格基线更显著的改进,但它们的有效性在不同类别之间有很大的差异。基于距离的信号和基于图神经网络(GNN)的信号表现出特别的影响力,表明局部化关系模式对于欺诈检测具有高度的区分能力。其次,结构扰动下的鲁棒性高度依赖于信号类型,揭示了每个类别的不同退化特征。例如,基于距离的信号在完整图上表现良好,但在边移除后会迅速退化,使其不适用于数据不完整或噪声较大的交易应用。第三,分类法驱动的分析通过将这些高区分能力的信号类别与特征性结构欺诈模式(如依赖于局部交易邻域)联系起来,提供了可解释的洞察。
总体而言,这项工作强调了使用基于统计的评估标准来评估图派生信号的重要性,而不仅仅是平均性能比较。因此,有意义的评估需要综合考虑效应大小、统计可靠性和在结构不确定性下的鲁棒性,以捕捉信号效用的补充方面。此外,在评估实际适用性时,不应将这些方面混为一谈。所提出的分类法进一步促进了应用领域中的可解释性洞察。以欺诈检测作为代表性案例研究,我们展示了所提出的评估方法如何能够原则性和可重复地评估图派生信号为表格机器学习模型提供可测量价值的前提条件。
从方法论上讲,SEM提供了一个与应用无关的框架,用于基于性能、统计可靠性和鲁棒性等互补标准来选择图信号。在实际应用中,这使得从业者能够根据证据做出关于提取和整合哪些图派生信息以获得可靠性能改进的决策,而不是依赖于即兴实验或直觉。
通过系统地识别不仅在扰动下准确而且在扰动下稳定的信号,SEM有助于降低部署依赖脆弱关系模式的模型的风险。由于整个流程是公开可用且可配置的,该方法可以轻松地转移到其他可以将数据表示为图的领域,支持实践中的更可靠和透明的图增强机器学习工作流程。
**补充材料**
以下支持信息可以在此下载:https://www.mdpi.com/article/10.3390/app16052624/s1。补充材料作为单独的PDF提供,包括S1部分(分类超参数)、S2部分(图信号生成参数)、S3部分(每个图信号类别的峰值性能增益)、S4部分(分类法驱动的事后可解释性)和S5部分(额外的聚合分析),以及表S1-S3和图S1-S4。