数字战略系统中的真实智能(Authentic Intelligence)：一个人机可问责决策治理的社会—技术系统分析

《Systems》：Authentic Intelligence in Digital Strategy Systems: A Socio-Technical Analysis of Human-Accountable Decision Governance Imo Enang, Patrick Mukala and Ubong Nkereuwem

　　

背景：数字战略日益依赖算法决策系统(algorithmic decision systems)，但人类判断如何保留于此类系统之中的机制尚缺乏理论化。现有框架或将数字工具视为中性仪器或自主主体，忽视了维持人类问责(human accountability)的系统层面条件。方法：研究人员采用新颖的三阶段面向系统的分析流程：(1) 对来自跨国组织负责数字战略实施的高级管理人员进行50例半结构化访谈的机制揭示主题分析法；(2) 对照欧盟委员会联合研究中心(JRC)人工智能实施目录中685个案例进行配置性跨案例映射；(3) 将访谈报告的障碍与37例已记录的实施中止案例进行失效模式三角校验(failure mode triangulation)。结果：研究人员提出"真实智能(Authentic Intelligence)"作为系统层构念(construct)，并发展出规定六项首要系统功能、三个决策位点(decision loci)、四项治理机制及十二种经实证推导的失效模式的社会—技术架构。三角校验显示六种失效模式具有高对应性(≥20% JRC引用率)，另六种具中等对应性。结论：本研究的贡献是一套可复用的系统架构与诊断框架，用于在数字战略实施中维持人机可问责决策治理(human-accountable decision governance)，可直接应用于欧盟人工智能法案(EU AI Act)第14条合规要求。

论文解读：数字战略系统中"真实智能(Authentic Intelligence)"的社会—技术系统分析与人机可问责决策治理框架

本文发表于《Systems》期刊。当前数字战略大量引入算法决策系统，但现有文献将数字技术要么视为中性工具要么视为自主代理人，忽略了使人类判断真正嵌入技术介导决策过程的系统级条件，社会—技术系统(socio-technical systems, STS)理论的联合优化(joint optimisation)原则未说明算法参与决策执行后问责如何保留。为此，Enang Imo、Patrick Mukala与Ubong Nkereuwem开展此项研究，引入"真实智能(Authentic Intelligence，指数字战略系统在感知、解释、决定、执行、监测、适应功能中维持人机可问责决策治理的系统层能力，具可追溯性traceability、情境判断contextual judgement、干预能力intervention capacity及后果承担consequence bearing四属性)"构念并构建配套治理架构与失效模式诊断体系，验证其对EU AI Act Article 14合规的适用性。

研究人员采用三阶段系统导向分析协议：①对跨快消品(n=18)、金融服务(n=12)、专业服务(n=8)、能源(n=7)、科技(n=5)五大行业及欧/中东非洲/北美/亚太地区的50名数字战略实施高管进行半结构化访谈（目的性抽样追求理论饱和），做机制导向编码与轴编码提炼六系统功能；②将访谈推导的治理构念对照欧盟委员会JRC的685例公共部门AI实施目录（含37例已中止案例）做配置性跨案例映射，将可见性visibility、干预intervention、问责accountability、反馈feedback机制操作化为JRC分类字段；③将访谈报告的屏障与失效模式同JRC中止案例做三角校验，按访谈提及频次与JRC中止案例引用百分比划定高/中/低对应性。

2. Theoretical Framing（理论框架）

通过文献回顾，研究人员明确真实智能力图区别于人环内(human-in-the-loop, HITL，技术配置)、算法透明度(algorithmic transparency，信息属性)、算法问责(algorithmic accountability，规范—法律框架)及组织智能(organisational intelligence，集体意义建构)，其是使问责可在实践中被行使的系统架构原则，并将人机可问责决策治理置于数字战略系统设计的首位。

4. Findings（研究结果）

经对访谈资料与JRC目录的交叉分析得出六系统功能各自治理挑战与失效风险：

• •
  System Function 1: Sensing（感知）——自动化数据采集需结合人类对数据含义与偏见的诠释；JRC中止案例中30%(11/37)因数据质量或偏见中止，说明无人类解读的自动感知引偏。
• •
  System Function 2: Interpreting（解释）——算法擅长模式识别但需情境判断与集体意义协商(contextual judgement & meaning negotiation)；高管实地市场走访提供算法无法复制的解释语境。
• •
  System Function 3: Deciding（决定）——常规决策可全权算法化(algorithmic loci，JRC成功率94%)，后果重大(consequential)决策须保留人类位点(human loci)并具否决权，争议(contested)决策需正式升级路径(escalation pathway)；JRC仅23%已实施案例记载升级条款，中止案例中22%(8/37)归因升级缺失。
• •
  System Function 4: Executing（执行）——自动、人介导及混合执行均需假设校验与信息跨阶段传递治理。
• •
  System Function 5: Monitoring（监测）——操作与战略两层监测须闭环回馈再入感知与解释；JRC中仅13%(89/685)含基于结果的显式反馈机制，中止案例中38%(14/37)指反馈不足致败。
• •
  System Function 6: Adapting（适应）——渐进与变革性适应需人类定向与文化容错；组织刚性与"舒适悖论(comport paradox，成功表现抑制冒险适应)"阻碍有效适应。

5. Systems Model Development（系统模型构建）

研究人员提出真实智能系统架构：六系统功能围绕"人机可问责决策治理"核心运转，由四种治理机制——可见性(visibility)、干预能力(intervention capacity)、问责归属(accountability)、反馈(feedback)——贯穿各功能维持真实智能；决策位点分算法位点(algorithmic loci，适于常规低后果)、人类位点(human loci，适于伦理/战略后果)、混合位点(hybrid loci，算法推荐+人审批，JRC中止率最高8%体现治理复杂性)。据此导出决策治理矩阵：常规决策仅需低可见性/低干预+中问责/中反馈；后果重大决策需高可见性、关键(critical)干预与问责、高反馈；争议决策四种机制均须关键级。

提炼十二种真实智能退化失效模式(failure modes)，经JRC三角校验其中六种具高对应性(data opacity数据不透明、decision drift决策漂移、accountability diffusion问责弥散、monitoring gaps监测缺口、feedback disconnection反馈脱节、escalation failure升级失效)，五种具中等对应性(pattern fetishism模式崇拜、execution rigidity执行僵化、override inhibition推翻抑制、transparency theatre透明作秀、adaptation paralysis适应瘫痪)，一种(capability atrophy能力萎缩)低对应性属长周期难文档化退化。

6. Discussion（讨论与结论）

研究人员指出本工作从三方面拓展STS理论：将联合优化具体化为含决策位点和四治理机制的决策治理设计原则；给出可操作化系统架构词汇；提供经实证校验的十二失效模式诊断框架。对数字战略研究补充了决策位点和治理强度依决策类型(routine/consequential/contested)匹配的观点，呼应March探索—利用(exploration-exploitation)张力——算法擅长利用已知模式(exploitation，适合算法位点)，人类主导新可能探索(exploration，需人类位点)。实践层面建议组织先做决策审计映射决策—位点—治理机制，再按矩阵配治理强度并监测十二失效模式，投资维护人员判断力防capability atrophy。Regulatory方面，EU AI ActArticle 14(1)–(4)的人为监督设计要求直接映射至本架构的可见性、干预、升级路径及反馈机制，失效模式可作合规监测风险指标。

研究人员结论重申：数字转型不必驱逐人类判断，经恰当系统设计纳入所述治理机制，组织可在部署算法能力同时维系负责任决策所需的真实智能(Authentic Intelligence)。

（注：全文内容严格浓缩自原文，未添加推测信息；专业术语保留英文及上下标；去除文献引用标号与图表指引标识。）