《Information》：Public Trust in Generative AI: Risk Perceptions, Regulatory Safeguards, and the Acceptance of Deepfake Technology
编辑推荐：
生成式人工智能（GenAI）现在能够以非专业用户也能触及的质量和成本生成合成文本、图像、音频和视频。深度伪造（Deepfakes）——通过机器学习（ML）改变个人外貌、声音或行为的合成媒体——是这一能力最具争议的应用之一，但公众在监管下接受它们的意愿仍知之甚少
生成式人工智能（GenAI）现在能够以非专业用户也能触及的质量和成本生成合成文本、图像、音频和视频。深度伪造（Deepfakes）——通过机器学习（ML）改变个人外貌、声音或行为的合成媒体——是这一能力最具争议的应用之一，但公众在监管下接受它们的意愿仍知之甚少。本研究探讨了感知收益、感知风险、隐私担忧和人口统计特征如何与监管保障下的深度伪造技术信任相关联。研究人员使用了来自多个国家的924名受访者的调查数据，采用描述性统计、独立样本t检验、方差分析、多元回归和开放式回答的主题分析。受访者认识到深度伪造技术在数字内容创作和教育方面的潜在收益，同时普遍表达了对虚假信息、隐私侵犯和犯罪滥用的担忧。当受访者在假设的隐私保护监管场景下评估深度伪造技术时，感知风险不能独立预测信任，而感知收益是最强的预测因子。研究结果表明，制度信心可能有助于公众接受生成式人工智能的有益应用，尽管横截面设计无法确立监管的因果效应。
**论文解读：生成式人工智能中的公众信任、风险感知与深度伪造技术接受**
**1. 研究背景、问题与意义**
生成式人工智能（GenAI）的发展使得合成文本、图像、音频和视频的生成变得高效且低成本，深度伪造（Deepfakes）作为其高风险应用，通过机器学习（ML）技术篡改个人外貌、声音或行为，引发了对虚假信息、隐私侵犯和犯罪滥用的广泛担忧。尽管深度伪造在数字内容创作和教育领域具有潜在价值，但公众对监管保障下的技术接受程度仍缺乏实证研究。现有研究多聚焦于技术检测与法律分析，忽视了公众信任、治理与社会接受之间的关系。本研究旨在填补这一空白，通过调查公众对深度伪造技术的感知收益、感知风险、隐私担忧以及人口统计特征如何影响对监管保障下的信任，从而为生成式人工智能的治理提供理论依据。论文发表在《Information》。
**2. 主要技术方法**
研究人员采用横截面调查设计，通过国际数据研究公司在线收集问卷。样本来自924名受访者，主要分布在挪威（36.4%）、美国（32.0%）、法国（13.4%）、德国（3.0%）和格鲁吉亚（3.0%）。测量工具包括11个感知项目（采用五级李克特量表），涵盖感知有用性、收益、风险、隐私担忧及信任等维度。分析方法包括描述性统计、独立样本t检验、方差分析（ANOVA）及Tukey事后比较、多元线性回归，并对开放式回答进行主题分析。
**3. 研究结果**
**3.1 样本特征（Sample Characteristics）**
924名受访者中，女性占53.5%，男性占46.5%；年龄分布以18–29岁为主（47.0%），其次为30–44岁（24.2%）、45–59岁（20.6%）和60岁及以上（8.2%）；61.5%持有大学学位。
**3.2 描述性发现（Descriptive Findings）**
54.3%的受访者认为深度伪造技术有用，但84.8%认为其可能误导他人，82.7%认为该技术通过未经授权使用图像或声音将个人数据置于风险中，表明公众同时认识到收益与风险，但风险担忧更为突出。
**3.3 推断分析（Inferential Analysis）**
**3.3.1 性别差异（Gender Differences）**
独立样本t检验显示，女性在所有八个变量上均与男性存在显著差异。女性对深度伪造在数字内容创作和教育中的潜在收益评价更高，同时对虚假信息、媒体真实性、犯罪滥用、个人不适和隐私担忧的关切也更强，但在设定隐私保护监管时，女性对受监管技术的信任也更高。
**3.3.2 年龄差异（Age Differences）**
单因素方差分析表明，除隐私担忧外，其他七个变量在四个年龄组间存在显著差异。45–59岁受访者对教育应用和受监管技术的信任水平最高，同时对虚假信息和犯罪滥用也表现出最高担忧；60岁及以上受访者则对教育价值最为怀疑，认为辨别真伪最为困难，即使有监管保障，信任水平也最低。
**3.3.3 教育差异（Educational Differences）**
教育程度对所有八个变量均有显著影响。拥有研究生或副学士学位的受访者对教育应用和受监管技术信任评分最高，同时对虚假信息、犯罪滥用和隐私担忧也最为强烈；而教育程度最低（高中以下）的受访者担忧和信任水平均最低，表明高等教育促进了更分化、更全面的评估。
**3.3.4 回归分析（Regression Analysis）**
多元回归模型（F(10, 909)=51.89, p<0.001）解释了36.3%的方差（R2=0.363）。在控制其他变量后，三个感知收益变量（数字内容创作积极转变、教育改善、辨别真伪困难）与信任显著正相关（B分别为0.208、0.290、0.114，p均<0.05），而感知有用性显著负相关（B=-0.166, p<0.001）。感知风险、隐私担忧等变量未达到统计学显著水平。补充层次回归确认了负向关系的稳健性。
**3.4 定性发现（Qualitative Findings）**
主题分析揭示三个主要主题：深度伪造、声誉与信任；深度伪造、民主与社会；个人、职业与社会后果。受访者普遍表达了对虚假信息、声誉损害、民主威胁及法律监管不足的担忧，同时承认教育、娱乐和创意媒体中的合法用途，并强调知情同意、透明标签和负责任治理的必要性。
**4. 讨论与结论**
**讨论总结：** 研究结果表明，深度伪造技术的公众信任主要受感知收益驱动，而非感知风险，这支持了“监管吸收风险”的机制：当监管保障可信时，个体将风险管理委托给制度，评价重心转向收益。该机制可能适用于其他高风险生成式AI应用。性别、年龄和教育程度差异显示，不同群体对监管的吸收程度不同，女性和高教育程度者对监管保障更依赖，而年长群体即使有监管仍信任较低。研究还识别出信任替代现象（对技术本身的信任与对制度的信任可能相互替代）。实践上，监管保障需有效、公平、透明，并辅以数字素养提升和明确的内容标注。
**研究结论翻译：**
本研究考察了公众对深度伪造技术（作为生成式人工智能的典型应用）的感知，聚焦于感知收益与风险、人口差异、信任的决定因素及更广泛的社会关切。基于风险感知理论和制度信任研究，研究人员提出了一个保障条件性的接受模型。观察到的关联与以下可能性一致：对监管保障的信心降低了感知风险的独立作用，并将公众评价转向感知收益，尽管研究设计未能确立该过程的因果机制。
关于RQ1，受访者认识到深度伪造技术的潜在收益（尤其在教育和数字内容创作方面），同时表达了对虚假信息、隐私侵犯、犯罪滥用和声誉损害的更大担忧。
关于RQ2，出现了明确的人口差异：女性报告更强的收益和风险感知以及更高的条件性信任；45–59岁年龄组对教育应用的支持最强，对受监管技术信任最高；60岁及以上受访者判断媒体真实性最困难，信任最低；高等教育程度与更分化评估相关，但效应量较小。
关于RQ3，感知教育收益和数字内容创作积极转变预测了受监管深度伪造技术的信任，而虚假信息、隐私、犯罪滥用和个人不适的担忧在控制收益后不再显著。定性数据记录了关于选举诚信、虚假信息、声誉损害和网络骚扰对年轻人影响的严重关切。
本研究贡献双重：实证上，利用多国大样本和混合方法，绘制了生成式人工智能最具争议应用之一的公众风险-收益权衡；理论上，识别了监管吸收风险作为治理可能将公众评价从风险中心转向收益中心的机制，并将技术-制度信任替代作为未来待检验的命题。随着生成式AI超越深度伪造向多模态系统发展，公众信任的对象将日益包括技术周围的治理安排。建立这种信任需要有效、公平、透明的保障，以及公开风险与展示合法收益的公共沟通。
