《Journal of King Saud University Computer and Information Sciences》：DRPG-AI: compliance-by-construction risk propagation on heterogeneous provenance graphs for trustworthy AI systems
编辑推荐：
面向人工智能（AI）系统的溯源与治理（Provenance and Governance）作为强制执行可信行为与降低监管暴露的重要手段，近年来受到广泛关注。然而，现有方法通常将溯源图视为被动文档而非可学习的风险推理基底，报告聚合层面的公平性差异而缺乏来源级归因
面向人工智能（AI）系统的溯源与治理（Provenance and Governance）作为强制执行可信行为与降低监管暴露的重要手段，近年来受到广泛关注。然而，现有方法通常将溯源图视为被动文档而非可学习的风险推理基底，报告聚合层面的公平性差异而缺乏来源级归因，通过人工审计清单回溯式地执行监管义务，并且缺乏从原始风险到可审计补救的统一量化路径。为解决上述局限，本文提出一种新颖的面向AI的数据—监管溯源与治理框架（DRPG-AI），该框架在节点级、属性级与策略级语义粒度上整合数据血缘模式，结合异构图表示、边类型化消息传递与校准风险传播，以全面刻画潜在数据风险的动态演化。DRPG-AI通过交叉关系注意力机制实现溯源推理与治理行动的深度融合，并构建合规即构造（compliance-by-construction）的训练目标——以《欧盟人工智能法案》二十条条款与《通用数据保护条例》（GDPR）七条条款为基础——以增强框架在不同监管情境下的适应性。在两个大规模公开表格公平性基准——UCI Adult（n=48,842）与COMPAS（n=7,214）——上的实证结果表明，DRPG-AI在所有报告指标上均取得全部12个被评估系统中的最佳性能：风险检测F1为0.876（提升6.1个百分点）、AUC为0.918（提升5.0个百分点）、合规覆盖率为0.956（提升14.3个百分点），显著优于包括W3C PROV、MLflow、AIF360、Fairlearn、Aequitas与Themis在内的12个主流基线系统。Bonferroni校正的成对检验证实上述提升具有统计显著性（p < 4.17 × 10?3）。研究结果验证了该方法在表格公平性情境下进行来源可归因且面向合规的风险量化的有效性，并展示了在对比性表格公平性基准间更强的泛化能力与鲁棒性。
**研究背景与问题**：AI系统已广泛介入医疗诊断、司法风险评估、信用评分与人员选拔等高利害决策场景。数据引发的失效若发现越晚，其纠正成本呈指数增长——数据整理阶段发现的风险，其补救成本通常比部署后发现低一个数量级。更严重的是，未缓解的数据风险可传播为系统性有害预测、隐性效用退化，并违反《欧盟人工智能法案》与《通用数据保护条例》（GDPR）等具有约束力的法律文书。传统风险评估依赖对留出测试集的事后、模型级静态分析，当风险指标揭示不安全行为时，问题已被数十个上游变换所塑造，根因定位极为困难。溯源感知的风险量化提供了更优范式：沿血缘图传播校准风险分数，可在流水线执行时将风险归因于上游贡献者。然而现有方法存在四项关键局限：（i）溯源图被视为被动文档制品，缺乏可学习推理；（ii）忽视AI流水线的多关系、边类型化结构，掩盖了风险沿derived_from、trained_on、governed_by等关系传播的差异；（iii）风险到行动的映射退化为静态规则表，忽略条款级义务语义；（iv）监管合规作为外部清单被回溯式执行，而非嵌入模型优化目标。其根因在于现有方法将溯源图、风险度量与合规证据视为三个独立维护的孤岛。基于此，本研究提出三个核心研究问题：RQ1，可学习的异构溯源图能否提升AI数据流水线中的风险归因性能，不同关系粒度上的边类型化消息传递模式对风险量化精度的贡献如何，多关系表示如何有效融合；RQ2，不确定性校准与条款级策略语义在治理路径规划中扮演何种角色，校准风险置信度与监管条款义务如何影响行动选择；RQ3，该方法在表格公平性领域展现何种跨数据集迁移鲁棒性，能否在无目标侧微调时保持稳定归因性能。
**研究内容与结论**：针对上述问题，研究人员提出面向AI的数据—监管溯源与治理框架（DRPG-AI），主要贡献包括五项：可学习异构溯源图，在节点级、属性级与策略级粒度上系统构建溯源，图基于五类节点与六种类型化边关系，风险传播通过边类型化图神经网络（GNN）与多头交叉注意力建模；集成式GNN风险传播架构，将GCN/GAT/TCN混合骨干与残差连接和层归一化结合，通过边类型感知消息传递将上游源变化与下游风险量化关联；不确定性加权传播与来源归因，包含温度缩放校准、不确定性加权祖先聚合与积分梯度（Integrated Gradients）归因，期望校准误差（ECE）监控器自动标记失校准预测并触发重校准；合规即构造训练目标，将监管义务直接嵌入优化损失，在统一可微合规奖励下编码二十条《欧盟人工智能法案》条款与七条GDPR条款，实现条款级策略的主动嵌入而非回溯审计合规；综合实验验证，在UCI Adult与COMPAS上的广泛实验表明DRPG-AI在全部报告指标上取得12个被评估系统中的最佳性能，跨数据集F1保留率达93.35%。研究结论表明，DRPG-AI将AI风险量化从事后审计活动转变为嵌入式治理机制，通过整合异构血缘图、边类型化消息传递、不确定性校准来源归因与条款级合规奖励，在UCI Adult（n=48,842）与COMPAS（n=7,214）上取得全部七项指标的最优性能：F1=0.876（较Themis+PROV提升6.13%）、合规覆盖率=0.956（提升14.31%）、ECE=0.038（降低71.15%）；消融研究证实边类型化GNN是最关键组件（移除后F1下降6.24%），合规奖励独特地驱动治理质量（覆盖率下降15.37%）；跨数据集迁移在无微调下实现93.35%的F1保留率，显著优于所有基线，所有提升在Bonferroni校正水平上具有统计显著性（p < 4.17 × 10
?3）。
**关键技术方法**：研究人员采用五项关键技术方法：一是异构数据血缘图构建，将UCI Adult（n=48,842，源自UCI机器学习库ID 2）与COMPAS（n=7,214，源自ProPublica完整发布版compas-scores-two-years.csv）的原始数据流与变换日志实例化为含五类节点（Data、Trans、Model、Pred、Policy）与六种边关系（derived_from、used_by、trained_on、produces、governed_by、audited_by）的类型化图，并施加类型条件投影；二是属性级溯源追踪，通过递归闭包计算属性来源集并引入自监督溯源重构损失；三是基于GNN的风险量化与传播，采用GCN/GAT/TCN混合架构进行L=4层边类型化多头消息传递，并结合时间卷积网络（TCN）捕获溯源事件时序；四是不确定性校准与风险定位，采用温度缩放校准与积分梯度归因；五是治理路径规划与合规映射，通过成本感知路径规划器与合规路径分数（S
comp）评估，并采用直通估计器处理不可微操作。
**研究结果**：总体性能比较方面，通过12个基线系统的系统对比实验得出DRPG-AI在准确率、精确率、召回率、F1、AUC、合规覆盖率与ECE七项指标上均最优，平均F1提升6.13%、AUC提升5.02%、合规覆盖率提升14.31%，ECE从0.1317降至0.0380（相对降低71.15%）。统计显著性检验方面，通过Wilcoxon符号秩检验与Bonferroni校正（α=4.17×10
?3）得出全部12组成对比较均通过显著性阈值，效应量Cliff's δ均超过0.83。分风险类别性能方面，通过一对多评估得出DRPG-AI在五类风险上F1均最高，算法偏差类绝对F1最高（0.912/0.896），成员推断泄漏与对抗污染因类别 Prevalence 较低而较难。GNN架构基线比较方面，通过与HGT等三个直接GNN基线在相同协议下对比得出DRPG-AI较HGT提升3.0个F1点与5.9个合规覆盖率点。消融研究方面，通过六种消融版本得出边类型化GNN为最关键单一组件（F1下降6.24%），异构类型化为第二大贡献者（F1下降4.86%），合规奖励对治理质量独特承重（覆盖率下降15.37%）。不确定性校准分析方面，通过M=15等质量置信箱的可靠性图得出校准后ECE在Adult降至0.0361、COMPAS降至0.0398，且温度缩放保持预测argmax不变。跨数据集迁移鲁棒性方面，通过双向无微调迁移得出平均保留率93.35%，合规相关指标迁移优势最为显著。受控注入场景来源归因方面，通过与PGExplainer、GNNExplainer、影响函数及随机基线对比得出DRPG-AI的Precision@3=0.778±0.016，在5–6跳注入深度维持Hit@5约0.78–0.82，而GNNExplainer与PGExplainer降至约0.36–0.40。信用贷款审批流水线案例研究方面，通过在六阶段流水线注入三类真实风险得出DRPG-AI成功检测全部三类风险并归因至源节点（Hit@5=1.0），生成合规可行路径（S
comp=0.924），性能与基准结果一致（F1=0.873、AUC=0.916、ECE=0.041）。
**讨论与结论**：讨论部分从四个维度审视有效性威胁。内部效度方面，风险标签由与图构建假设相同的程序化规则生成，虽完全确定且各机制作用于不相交节点子集，但标签—模型对齐可能相对独立标注膨胀性能，未来需以外部标注数据验证；溯源标注可能存在缺失边或虚假关系，研究人员通过选用公开记录充分的变换流水线缓解；实现代码经严格审查与单元测试。外部效度方面，UCI Adult与COMPAS并非端到端AI治理测试平台，变换流水线相对较短（最大属性血缘深度分别为8与6跳），真实企业流水线可能涉及更长血缘、异构数据模态与更丰富监管义务集，案例研究部分缓解该局限；数据集代表性与监管情境覆盖（二十条《欧盟人工智能法案》与七条GDPR条款）亦受限，扩展至NIST AI RMF或行业标准属未来工作。构造效度方面，标准指标可能不反映实际工业效用，且模型学习统计模式而非因果关系的，研究人员不主张注意力权重代表真实因果影响。结论效度方面，统计检验基于两数据集20次分层划分的40个配对观测，超参数在UCI Adult验证集调优后跨数据集固定。研究结论为：本研究解决了AI系统中数据风险从上游源向部署模型静默传播的根本挑战，提出DRPG-AI，通过整合异构血缘图、边类型化消息传递、不确定性校准来源归因与条款级合规奖励，将AI风险量化从事后审计活动转变为嵌入式治理机制；实验证明DRPG-AI取得最先进性能，消融证实边类型化GNN为最关键组件、合规奖励独特驱动治理质量，跨数据集迁移实现93.35%的F1保留率，所有提升经Bonferroni校正后具有统计显著性；未来方向包括跨模态扩展至临床时间序列、图像鲁棒性与非结构化文本流水线，基于Pearl do-演算的因果风险归因，带增量血缘摄取的实时流式部署，超越《欧盟人工智能法案》/GDPR的多司法辖区合规，以及治理路径决策的反事实解释。
