面向企业云端大语言模型的隐私保障权限感知RAG框架

《Scientific Reports》：Privacy-provisioned-permission-aware RAG in cloud using identity and access management, trust and large-language models (PPPARITL)

　　

摘要

大语言模型（LLMs）中基于推理的决策往往容易受到幻觉问题困扰，并且倾向于生成过时信息，原因在于它们缺乏领域特定知识。检索增强生成（RAG）模型通过将信息检索锚定到知识源（KS）中所体现的事实来增强上下文信息的质量。然而，由于企业严重依赖远程云端来处理服务用户的开放式查询并处理数据外包，仍然存在显著的授权风险与隐私顾虑。为应对这些顾虑，本文提出了一种隐私保障的权限感知 RAG（PPPARITL），该方案集成了身份与访问管理及信任机制，以促进大语言模型（LLMs）的决策。与传统的 RAG 模型不同，PPPARITL 框架利用 CKKS 同态加密对静态的文档和查询嵌入进行保护；嵌入仅在以下条件下由管理员持有的密钥解密：首先通过访问控制列表（ACL）中预先配置的 RRAC（角色-资源-操作-条件）门控进行授权验证，且在相似度排序之前方可解密。知识源（KS）中的每一篇文档（无论结构化或非结构化）均通过强制执行 ACL 中用户-角色映射的构建性对齐来加以保护。此外，本文还引入了一个净化层来处理拒绝服务（DoS）攻击并撤销恶意查询模式。该框架分为两个主要阶段——在第一阶段，每个用户查询都会根据管理员预配置的身份与访问管理（IAM）策略规则进行验证，这些规则作为 ACL 中不可补偿的 RRAC（角色-资源-操作-条件）门控。为了保障信息安全，在后续阶段为每次服务请求计算一个信任分数，通过分析上下文、行为以及历史服务用户交互来支撑权限感知检索。正是这种基于场景的信任分配机制使 LLM 能够确保特权访问并提供可解释的智能推理。此外，PPPARITL 框架持续监控恶意查询以缓解内部威胁，并在必要时撤销用户权限。实验结果表明，所提出的方案在综合授权准确率上优于基线访问控制方法，在合成企业数据集上达到 95.84% 的授权准确率，同时虚假访问率（FAR）显著降低。这些仿真结果在信任导向的检索与可靠的访问控制系统之间实现了有效平衡，适用于云端生态系统。