《Systems》:Systemically Mediated Leadership in AI-Enabled Organizations: A Socio-Technical Systems Theory of Distributed Judgment, Feedback, and Accountability
编辑推荐:
人工智能(AI)日益通过模型、仪表盘、指标、决策支持系统和自主智能体中介与领导力相关的判断。这篇概念性文章发展了一种关于系统中介领导力(SML)的社会技术系统理论,SML被定义为一个嵌套的系统级条件和递归过程配置,通过该配置,人类行动者、AI系统、组织惯例、治
人工智能(AI)日益通过模型、仪表盘、指标、决策支持系统和自主智能体中介与领导力相关的判断。这篇概念性文章发展了一种关于系统中介领导力(SML)的社会技术系统理论,SML被定义为一个嵌套的系统级条件和递归过程配置,通过该配置,人类行动者、AI系统、组织惯例、治理机构和受影响的利益相关者通过递归反馈共同产生和修正方向、意义、重大判断、合法性和问责。一项问题驱动的概念综合更新至2026年8月3日。一次结构化发现过程产生了97篇候选记录;在相关性筛选、引文追踪、概念映射以及八个候选机制家族比较后,保留了85篇文献。四个拟定的资格条件在本框架内共同定义了该构念:AI中介、领导力相关性、分布式判断和递归制度嵌入。五个机制家族解释了责任、合法性、控制、注意力和反馈时机的转变:道德委托、解释性洗白、仪式性监督、指标驱动的意义建构和伦理迟滞。一个因果循环模型具体说明了辩护性强化、能力萎缩、权力绝缘和问责性纠正。它们的相对主导地位产生了三种理想类型的动态体制:问责性适应、稳定化权衡和破坏性漂移。该理论预测,使用同等精确模型的组织可能产生不同的领导力和问责结果,因为其反馈、权力和监督架构存在差异。因此,负责任的AI领导力取决于系统架构和可争议的制度实践,而非仅依靠领导者意图、正式的人类批准或模型准确性。
**AI赋能组织中的系统中介领导力:一种分布式判断、反馈与问责的社会技术系统理论——论文解读**
**1. 研究背景与问题**
随着人工智能(AI)系统,如模型、仪表盘、指标及自主智能体,日益渗透到组织决策中,领导力的实践形态正在发生深刻变化。传统上,领导力被视为由个体领导者主导的方向设定、意义构建与承诺达成过程。然而,AI的介入使得领导力影响从可见的“人际决策”环节,向上游转移至数据定义、模型目标、界面默认值和工作流规则等“技术性”环节。这种“上游影响”使得领导力与行政管理的界限变得模糊,并引发了关于问责、权力和合法性转移的新问题。
现有研究,如算法管理、混合智能和负责任AI,分别从控制、能力组合和伦理规范等角度切入,但未能提供一个统一的系统级理论框架来回答以下关键问题:AI的介入在何种条件下构成了领导力系统,而非仅仅是管理工具?AI如何从根本上改变责任、合法性、控制、注意力和反馈时机的分配?不同的反馈结构、治理能力和权力配置如何导致组织在“问责性适应”、“稳定化权衡”和“破坏性漂移”等不同动态轨迹间移动?为填补这一理论空白,研究者开展了这项研究,旨在构建一个整合性的社会技术系统理论——“系统中介领导力”(SML),以解释AI如何通过递归反馈机制,系统地重塑组织中的领导力与问责。该论文发表在《Systems》期刊。
**2. 主要关键技术方法**
为构建SML理论,研究人员采用了**问题驱动的概念系统分析**方法。主要技术步骤包括:1) 通过**结构化发现过程**,在多个学术数据库中检索AI、领导力、问责等关键词族,并辅以**引文追踪**,最终构建了一个包含85篇核心文献的语料库。2) 对所有保留文献进行**概念映射**,识别出八个候选机制家族,并通过**四个关键测试**(描述系统转变、占据独特因果维度、存在可观察的反事实、具有递归作用)筛选出最终五个核心机制。3) 基于系统动力学方法,构建了一个**定性因果循环模型**,通过识别变量间的同向或反向变化关系、累积状态(stock)和物质延迟,模拟了系统行为与发展轨迹。
**3. 研究结果**
**3.1. 系统边界、架构与权力**
研究人员将AI赋能领导力系统定义为由**技术子系统、社会子系统、组织子系统和治理子系统**四个耦合子系统构成。系统的核心组件包括**人类行动者、计算人工制品、组织惯例、治理机构和受影响的利益相关者**。通过分析**感知、框架、推荐、决策、执行、体验、质疑和纠正**这八个决策-反馈阶段,论文揭示了领导力影响的分布式本质。研究特别强调了**权力**的结构性作用,指出设计、运营和争议性权力决定了反馈的权重,并可通过“权力绝缘”强化循环,削弱问责。
**3.2. 定义系统中介领导力**
研究人员提出,只有当**AI中介、领导力相关性、分布式判断和递归制度嵌入**这四个拟定的资格条件同时满足时,SML构念才能被认定。该理论将领导力与常规管理明确区分:当AI系统编码了对谁的需求优先、如何分配负担、或如何定义公平的争议性议题时,它便超越了管理范畴,具有了领导力相关性。该研究通过对比表格,明确了SML与算法管理、混合智能等相邻构念的边界。
**3.3. 五个机制家族**
通过应用一个共同的因果模板,研究人员识别并定义了五个在分析上可区分的机制家族,解释AI如何改变领导力系统:**道德委托**(责任向系统的转移)、**解释性洗白**(有争议的代理变量被伪装成中立技术事实)、**仪式性监督**(正式审查环节缺乏有效权力)、**指标驱动的意义建构**(AI指标重塑领导者的注意力与行为)以及**伦理迟滞**(行动与后果识别之间的时间延迟导致负面反馈被抑制)。每个机制家族都给出了其前因、过程、系统转变、长期后果及可区分的观测证据。
**3.4. 动态系统模型与轨迹**
研究人员构建了一个因果循环模型,包含三个**强化循环**(R1辩护性强化、R2能力萎缩、R3权力绝缘)和一个**平衡循环**(B1问责性纠正)。这些循环的相对主导地位,在伦理迟滞和累积状态(如组织依赖、潜在危害)的影响下,产生了三种动态体制:**问责性适应**(B1主导)、**稳定化权衡**(B1足以遏制明显崩溃但无法改变根本目标)和**破坏性漂移**(强化循环主导,系统远离其宣称的规范性目标)。
**3.5. 操作化与实证检验**
该部分为后续研究提供了方法论指导,指明了**五个分析角色**(构念资格指标、前因条件、机制过程、治理调节因素、短期/长期结果)和**四个分析层次**(决策事件、工作流/单元、组织、生态系统)。论文建议采用纵向过程研究、系统动力学研究、比较案例研究和实验设计来检验其提出的八个命题(Propositions),并强调需通过三角测量来应对替代性解释。
**4. 讨论与结论**
**讨论总结**:本研究的理论贡献在于为系统科学、领导力理论和AI治理研究提供了新视角。它通过一个整合性的系统级解释框架,阐明了AI如何通过反馈架构、权力分配和动态轨迹塑造领导力与问责,而非仅仅关注个体领导者或技术属性。研究指出,名义上的人机回环安排可能因缺乏“必要多样性”而失效,负责任的AI领导力最终取决于系统架构和可争议的制度实践,而非仅领导者意图或模型准确性。
**研究结论翻译**:AI赋能的领导力并非由仪表盘、算法或人类审批者的存在来定义。在本研究提出的框架内,当AI塑造了具有领导力相关性的方向、意义、合法性或重大分配,且实质性判断是分布式的,并且该安排递归地嵌入到组织与治理反馈中时,它就成为系统中介的。这个定义在SML、常规数据信息型管理和相邻构念之间建立了一个可检验的边界。五个机制家族描述了责任、合法性、控制、注意力和反馈时机的不同转变。三个强化循环和一个平衡循环解释了为何同等精确的模型可能在一个架构中支持问责性适应,在另一个中导致稳定化权衡,而在第三个中导致破坏性漂移。权力决定了谁的分类、证据、经验和挑战塑造了这些循环。负责任的AI领导力依赖于一个具备认知能力、权威性可争议性、包容性反馈、独立问责以及时间性监测和退出能力的架构。领导者特征、模型准确性、正式监督和合规语言仍然相关,但仅凭这些是不够的。当系统在学习和扩展和适应过程中,保持足够的多样性、声音、可追溯性、独立判断和恢复能力来挑战和修正其自身输出时,问责才能持续存在。