人工智能技术前景研究中的风险与未来图景

《Futures》：Risks and the image of the future in the study of AI technologies prospects

　　

• •
  本文开发了一种建构主义方法论，用于识别塑造专家社区对未来形象的AI风险。
• •
  通过对100位专家的深入访谈，识别出AI发展的16项不同风险。
• •
  将波拉克矩阵操作化，以映射技术风险并划定AI发展的场景空间。
• •
  这些风险分为4组：令人失望的AI、AI寒冬、有偏见的AI和绝对AI，各自具有独特的场景含义。
• •
  开发了从波拉克矩阵到SWOT分析的转变方法，以考虑AI治理中的跨因素相互作用。

引言

人工智能（AI）加速融入社会经济系统，导致专家与媒体话语出现显著分歧，从无拘无束的技术乐观主义到深刻的生存性警惕不等。现有评估AI风险的框架通常依赖定量调查或孤立的统计分析（WEF, 2025），却常常忽视了风险感知本身的建构性、叙事驱动特征。这一忽视无视了数十年的研究成果——这些研究证明，风险并非客观事实，而是一种社会和文化产物（Beck, 1992, Douglas, 1985），受到心理计量因素（如恐惧，Slovic, 1987）的影响，并嵌入在集体的社会技术想象中（Jasanoff, 2007）。因此，纯粹的技术评估有将公众关切误判为非理性的风险（Wynne, 1992），并无法捕捉那些可能从乌托邦式到末日式的叙事"想象"。这些叙事最终决定了哪些风险会被优先考虑、获得资金和受到监管。本文通过提出一种建构主义方法来填补这一空白，以系统化和阐释专家社区所识别的AI发展中中长期风险。本研究超越了单纯编目集体恐惧的范畴，分析了主导性风险叙事如何涌现、凝聚，并作为利益相关者所持"未来形象"的构成性要素发挥作用。通过将AI风险置于技术创新与其制度性吸收之间的冲突框架中，本文提出的方法论途径提供了一个细腻的框架，将风险意识转化为战略工具。这为完善政策框架以及在地缘政治和技术竞争的时代制定平衡的AI领导力国家战略提供了方法。

随着我们对技术炒作现象的理解日益深化，传统研究技术发展风险的方式需要更新。在当前AI发展的现实中，相应的技术炒作被感知为多波浪式（Fenn & Raskino, 2008）、递归式（Esposito, 2011, van Lente et al., 2013）、投机性（Floridi, 2023, Perez, 2002, Watson, 2025）且极度波动的。它在解决方案主义与生存威胁之间摇摆不定（Kasirzadeh, 2024）。因此，风险分析框架必须演变为动态的、前瞻性的和具有反思性批判能力的。这需要整合概率风险模型与社会技术想象及叙事流的适应性映射，将定量的循证基础与价值相关方面和多元话语相结合。

未能认识、低估或夸大与AI相关的风险，可能导致对这些技术的过度监管压力，以及围绕一种被"妖魔化"的AI的进一步忧虑——这种AI能够理解和生成人类语言、创造图像和意义、制定自身目标并自主管理社会过程。社会将AI通过图灵测试（Turing, 1950）或沃兹尼亚克咖啡测试（即成功伪装为人类）的可能性视为对既有社会关系和联系构成的威胁。为了应对突破性技术社会经济整合所导致的功能失调，必须持续地识别、界定和分类那些不断积累并决定AI所构成特定风险的关键技术恐惧。这种对AI风险的分析方法使人能够探索其关键管理属性，这对于设计有效的技术管理策略至关重要。系统研究专家归因于AI技术的风险，有助于我们更好地理解AI发展所带来的潜在威胁与机遇。这种理解对于制定该技术领域平衡的国家领导力战略至关重要。

对一种可能超越人类能力的未探索认知系统的恐惧，使为AI技术在成品中的实际应用提供适当法律支持和监管框架的工作变得复杂。个体和群体层面都存在对AI所构成的既定社会结构和价值观转型之潜在威胁的认识。在个体层面，恐惧表现为一种情绪。当这些恐惧在群体层面不断积累时，它们通过目标受众表达出来，最终由利益相关者社区以各种风险的形式加以阐述（Beck, 1994, Luhmann, 1993）。风险是关于人类行为或不可预见事件的潜在后果的恐惧的外化，这些后果可能损害人类价值观（Granaturov, 1999, Renn, 1998）。

作者指出，与AI相关的风险源于技术发展与环境之间的相互作用，包括技术方面、社会方面和X方面。即便没有事故或恶意意图，AI的进步也可能构成威胁。AI的负面潜力源于其改变经济主体运营和竞争的环境之关键参数的能力。识别和评估部署AI解决方案所涉及的风险，并将这些见解整合到行业和企业的技术发展策略中，是将AI在更广泛的社会经济格局中制度化的有效手段。这有助于减轻生存焦虑，克服AI技术广泛采用的过度障碍，从而确保最优资源分配以支持AI发展。据此，本研究的议题由三个相互关联的组成部分构成：(1) 识别与AI技术发展相关的全面风险集；(2) 解释和分类这些风险，以形成对AI发展前景的清晰愿景；(3) 将风险分析的发现应用于改进与推进AI技术相关的战略规划工具。

章节摘要

技术发展风险的建构主义阐释

回顾来看，技术发展风险有五种基本概念化，聚焦于其本质方面：概率-理性主义、心理计量、建构主义、复杂性和"后正常"概念化。概率-理性主义概念化将风险视为技术的客观、可量化属性（Lowrance, 1976），并聚焦于技术故障、机械可靠性和统计分析（Kaplan & Garrick, 1981）。相比之下，

专家抽样

本研究的实证数据通过对AI专家进行深入访谈收集。样本设计旨在反映当前国家AI创新生态系统的结构性比例。该生态系统包括企业部门（含IT公司：既包括大型企业也包括有前景的初创公司）、研究社区（含专业研究机构和大学）以及监管机构（由政府机构、公共组织组成，）

"令人失望的AI"

波拉克矩阵第一象限中的风险假定专业社区具有充分的能动性。换言之，AI开发者有机会有意影响与引入该领域先进技术解决方案相关的关键参数、动态和后果。新AI技术的发展不会威胁既定的价值体系或经济制度结构的运行。所考虑的一组

利用波拉克矩阵进行AI发展的战略规划

波拉克矩阵中识别出的AI发展相关风险，可以指导该领域的国家领导力战略。一个平衡的战略应在早期阶段减缓与新技术相关的最具破坏性的风险，同时利用其他类型风险所带来的机遇。根据4，波拉克矩阵主对角线的两端代表条件性正面风险（第一象限）和生存性风险（第四象限）。

讨论

为进一步发展本文所述的研究方法，有必要突出关键的方法论选择和决策。其中最显著的，按照通常遇到的顺序排列，是：(1) 处理风险分析中的不确定性；(2) 问卷调查与访谈的比较；(3) 映射风险或将其表示为场景。伴随这三个选择的是同样重要的问题，例如对社会技术的深刻阐释

结论

本研究在驾驭社会技术复杂性方面的独特见解，源于重新定义技术风险——不是作为需要评估的客观危害，而是作为揭示专家社区所持"未来形象"的社会建构。目前，许多AI风险不易归类。它们表现出矛盾性，即同一种风险可能被不同专家视为源于技术内部过程或外部环境（因果矛盾），

CRediT作者贡献声明

Sergey Sychev：撰写-初稿，概念化。Alexander Snegirev：撰写-初稿。

资金支持

本文基于新西伯利亚国立大学基础研究计划资助的研究。

利益冲突声明

作者声明，他们没有已知的竞争性经济利益或个人关系可能影响本文所报告的工作。

致谢

作者感谢匿名审稿人仔细审阅手稿并做出重大改进。

Alexander Snegirev|Sergey Sychev