基于因果治理和弹性联邦保护的可靠视觉隐私审计方法，用于NIST人工智能风险管理框架 作者：雷一昌（Ray-I Chang）、卢伟勋（Wei-Xun Lu）与杨奇（Chih Yang）

《Electronics》：Trustworthy Visual Privacy Auditing with Causal Governance and Resilient Federated Protection for NIST AI Risk Management Framework Ray-I Chang, Wei-Xun Lu and Chih Yang

　　

摘要

我们之前提出的基于图卷积网络（GCNs）和联邦学习（FL）的视觉隐私框架已经展示了先进的预测性能。然而，该框架忽略了美国国家标准与技术研究院（NIST）人工智能风险管理框架（AI RMF）的系统性要求。为了解决这一关键问题，本文提出了“可信视觉隐私审计”（TVPA）系统，该系统将传统的静态检测模型转变为一个动态且安全的治理生态系统。首先，我们通过引入一种称为“弹性联邦保护”（RFP）的主动审计机制来增强系统的抗攻击能力，该机制在客户端更新中嵌入独特的模型参数水印，从而验证节点的合法性和自动隔离试图进行恶意攻击的客户端。接着，为了确保严格的问责制，我们在RFP机制中设计了不可篡改的审计日志机制，该机制利用加密哈希链（CHC）记录和验证每次模型更新的来源，形成一个透明的监管链。此外，通过引入“因果治理”（CG）机制，预测能力得到了进一步提升，该机制将因果推断整合进来，为解释隐私风险的根本原因提供反事实推理，而不仅仅是简单地标记关联关系。在VISPR数据集上的实验表明，我们的TVPA系统能够在保持高性能识别的同时，提供强大的安全性、可审计性和因果可解释性，从而实现可信的人工智能治理。