基础模型中的隐私保护：技术、威胁与权衡的系统性综述

《ARTIFICIAL INTELLIGENCE REVIEW》：Privacy-preserving in foundation models: a systematic review of techniques, threats, and trade-offs

　　

摘要

基础模型是一种大规模的人工智能模型，它们是在海量数据上训练而成的。由于不断进化的能力以及改变各领域发展的潜力，这类模型在人工智能领域受到了极大关注。然而，这样的机遇也带来了诸多隐私和安全方面的挑战，贯穿于基础模型的整个生命周期，包括敏感训练数据的泄露，以及模型和用户输入信息被暴露的风险。本系统性的文献综述分析了2022年至2025年间发表的295篇经过同行评审的研究成果。研究重点在于隐私保护技术——它们是什么、在基础模型生命周期中的应用场景、能够应对或缓解哪些威胁、其有效性以及面临的主要挑战。此外，研究还分析了隐私威胁在基础模型中的普遍程度以及应对这些威胁所面临的主要困难。随后，我们对文献中提到的隐私与效用之间的权衡进行了深入分析，探讨了这类权衡是如何构建、优化和评估的。该综述为隐私保护技术和隐私威胁提供了一种基于生命周期的分类体系，同时深入分析了与隐私与效用权衡构建及衡量相关的趋势与不足。其目的是为研究人员、专业人士和政策制定者提供指导，帮助他们设计出更加可靠、私密且符合伦理标准的人工智能基础模型。