《Frontiers in Human Dynamics》：When judgment moves: agentic artificial intelligence and the relocation of human discretion in frontline care
编辑推荐：
医疗照护的一线是正式政策转化为人类决策的场所。其长期以来的定义性特征即为自由裁量权（discretion），即在稀缺、不确定和不平等需求下的情境化判断。本文认为，代理式人工智能（agentic artificial intelligence, AI）可能不仅限
医疗照护的一线是正式政策转化为人类决策的场所。其长期以来的定义性特征即为自由裁量权（discretion），即在稀缺、不确定和不平等需求下的情境化判断。本文认为，代理式人工智能（agentic artificial intelligence, AI）可能不仅限于自动化任务或支持专业判断。当系统解释病例、选择行动并启动后续工作流活动时，裁量行为可能从可见的工作人员转移到技术过程中。借鉴街头官僚制（street-level bureaucracy）、系统级官僚制（system-level bureaucracy）、职业身份（professional identity）、道德能动性（moral agency）和医疗人工智能研究，本文提出了“迁移的裁量权”（relocated discretion）概念。该概念指将有意义的判断从一线专业人员转移到能够规划或执行后果性行动的人工智能系统。本文讨论了四种可能的后果：职业身份威胁（professional identity threat）、自主性降低（reduced autonomy）、道德去技能化（moral deskilling）以及可答责性与作者身份之间的鸿沟（gap between answerability and authorship）。在有限且可审计的任务中，裁量权迁移可能是有用的；然而，当道德敏感的判断被转移而责任仍由专业人员承担时，问题就变得更为突出。
医疗政策在一线工作中转化为具体的人类决策。分诊护士、接待人员、社区健康工作者等一线行动者处于正式系统与个体患者之间，长期依赖自由裁量权（discretion）来应对信息不完全、资源稀缺和患者需求差异。这种裁量权并非纯粹的个人选择，而是政策适应现实照护条件的方式，使工作者能够在不确定性中解释规则、确定优先级并考虑正式记录之外的境况。然而，医疗人工智能正从预测和推荐转向能够规划、协调、适应并启动跨工作流行动的代理式系统。既有概念如决策支持、自动化与委托无法充分解释这种转变：决策支持仅向专业人员提供信息，自动化执行预设任务，委托则存在可撤销的明确责任转移。为此，研究人员在发表于《Frontiers in Human Dynamics》的论文中提出“迁移的裁量权”（relocated discretion）概念，用以描述有意义判断从一线专业人员向可独立规划或执行行动的人工智能系统的转移，并分析其后果与治理条件。该研究的现实意义在于，当系统开始承担原本属于人类工作者的判断行为时，责任与作者身份可能出现分离，进而影响职业身份、专业自主性和道德能力。
研究人员采用理论综合与概念分析方法，整合街头官僚制（street-level bureaucracy）、系统级官僚制（system-level bureaucracy）、职业身份、道德能动性（moral agency）及医疗人工智能研究等领域的文献，并通过既有实证案例加以说明，例如Abràmoff等人报告的自主诊断系统关键试验，以及Ebnali Harari等人开展的随机对照试验，后者以54名无医学背景或心肺复苏经验的参与者在模拟场景中比较医师监督ChatGPT、自主ChatGPT与纸质指南的效果。这些案例被用于阐明不同技术安排下判断位置的差异，而非提供临床结局的直接证据。
**从决策支持到代理行动**。研究人员对比了临床决策支持系统、描述性/规定性人工智能与代理式人工智能的区别。代理式人工智能结合目标导向操作与多步规划、适应和行动启动能力，能够监控条件变化、组织多个关联任务并决定工作流的后续进程。例如，传统分诊工具可为护士计算风险评分，而代理系统可收集症状、检索记录、识别缺失信息、分配紧迫性并触发升级。通过引用前述试验，研究人员指出专家监督能提升人工智能支持指导的可靠性与接受度，说明技术性能的提升并不自动解决“谁应在不确定、脆弱性和道德后果情境中行使判断”的问题。
**迁移的裁量权：定义与边界**。该概念是指解释、优先级确定或行动选择权威从一线专业人员转移到能够独立选择、规划或启动行动的人工智能系统。其成立需要三个条件：系统在多种有意义的方案中进行选择；该选择随后影响或启动后续工作流活动；专业人员对结果保持可答责性，但对决策形成过程的作者身份有限。研究人员将其视为系统级官僚制的强化形式，并与责任鸿沟理论相关联。迁移并非仅因使用人工智能而自动发生，关键在于有意义选择的位置；在有限、可逆且低敏感度的活动中可能可接受，而当系统应对脆弱性、不确定性或竞争性道德主张且工作者无法充分检查或质疑行动基础时，则引发更大担忧。
**迁移的裁量权的人类后果**。论文讨论了四种后果。第一，职业身份威胁：判断能力与以能力、认可、责任和有意义工作为要素的职业身份紧密相连，当代理系统执行承载判断的行为时，分诊护士可能仍面向患者，但紧迫性、排程和升级已由系统决定。第二，自主性降低：正式参与不等同于实际
