《Current Opinion in Behavioral Sciences》：The quest for the optimal level of sense of agency in the case of human-operated, AI-enabled robotics
编辑推荐：
感知能动性（sense of agency, SoA）是对自身动作及其感官结果处于控制之中的主观感受。本文提出，感知能动性（SoA）的一个关键特征是其与内在动机（intrinsic motivation）的联系，而内在动机是在没有外部强化的情况下与环境互动的关
感知能动性（sense of agency, SoA）是对自身动作及其感官结果处于控制之中的主观感受。本文提出，感知能动性（SoA）的一个关键特征是其与内在动机（intrinsic motivation）的联系，而内在动机是在没有外部强化的情况下与环境互动的关键驱动因素。研究人员认为，当感知能动性（SoA）体验处于完全控制与完全无控制之间的中间水平时，内在动机最高。因此，研究人员提出，人类操作、人工智能（artificial intelligence, AI）赋能机器人技术需要进行设计，以实现人类感知能动性（SoA）与辅助系统自主性之间的平衡，从而优化用户使用该技术的动机并改善表现。研究人员描述了各种辅助技术实例，涵盖工作环境中的机器人到医疗保健机器人，并讨论了感知能动性（SoA）作为开发此类技术过程中工程领域需要考虑的关键因素。
引言
现代人工智能（AI）赋能技术有望在各种情境和应用中为人类提供辅助。例如，AI赋能机器人可应用于医疗保健领域，如康复机器人、日常生活活动辅助机器人（例如针对瘫痪患者的喂食机器人设备）或手术机器人。在其他领域，它们可充当自动驾驶汽车或用于灾难恢复的远程操作机器人。所有这些例子的共同特征是：在与辅助技术交互时，人类扮演操作者的角色，通过人工效应器执行动作。这引出了一个重要问题：人类操作者在使用机器人设备时体验到多少控制感？操作者应该体验多少控制感？设备应被赋予多少自主性？辅助系统的自主性是否以牺牲用户体验到的控制感为代价？
本视角论文通过聚焦感知能动性（sense of agency, SoA）概念及其与内在动机的关系来探讨这些问题。感知能动性（SoA）被定义为对自身动作及其结果处于控制之中的主观感受。尽管它与控制概念密切相关，但其区别在于它是控制的体验，是一种无法直接测量的第一人称现象，但可通过自我报告和潜在的神经关联进行评估。研究人员认为，对人类而言，体验对动作及其结果的感知能动性（SoA）本身具有奖励性和动机性，即使在没有外部强化的情况下也是如此。当感知能动性（SoA）程度处于“甜蜜点”（sweet spot）——即激励进一步探索环境的最优点时，情况尤为如此：体验对环境的完全控制令人厌倦，而体验完全缺乏控制则令人沮丧。因此，辅助技术应被设计成恰好位于该“甜蜜点”，使用户将该技术接受为允许充分程度控制体验的设备，从而维持使用它的动机。
感知能动性与动机
主观控制体验（或感知能动性（SoA））使人类能够在环境中高效运作。然而，体验能动性不仅是功能性的，而且在内部具有奖励性和动机性。已有证据表明用户偏好控制他们操作的机器，并且他们相信控制能提升表现，优于实际客观表现水平。因此，感知能动性（SoA）似乎确实与大脑的动机系统相关联。
早期理论提出，当人们感到自主（控制自己的动作）和有胜任力（有能力且有效）时，会受到内在激励。后来，控制感知被提议为一种基本的适应性生物需求，因为它与内在奖励和动机相关联。有趣的是，通过工具性学习传递的奖励比被动传递的奖励更能激活与奖励相关的大脑回路，这表明拥有选择权与动机相关。尽管这些文献主要依赖动物模型，但进一步的研究在行为层面证明，选择选项对人类也是可取的。通过功能神经成像，研究人员观察到在有无选择条件下，脑区如右侧纹状体、左侧尾状核、背侧前扣带回皮层（dACC）、右侧额下皮层（IFC）和杏仁核的参与。
在人类中的进一步证据表明，客观控制与动机之间的关系延伸到了主观控制自己动作的感受，即感知能动性（SoA）。行为上，一项研究使用了一个任务，参与者必须按两个按钮之一来点亮灯泡。在实际实验阶段之前，参与者被暴露于控制错觉（IoC）诱导阶段，在此期间，实验者操纵了动作-结果 contingency（即灯泡点亮的频率）。所有参与者随后进入主要实验条件，该条件使用完全相同的任务但允许他们随时退出。结果显示，在控制错觉（IoC）诱导阶段经历高频成功的个体表现出更强的坚持性（完成的试验数量更多），尽管奖励呈指数衰减，并且在经济不利且对手成功率高达80%的操纵性社会竞争中保持参与。由于控制错觉（IoC）诱导阶段的成功频率不依赖于参与者的动作，而是由实验者先验设定，该实验操纵涉及主观感知能动性（SoA）而非客观控制。因此，该研究表明，感知能动性（SoA）（而非实际控制）可以提升动机。感知能动性（SoA）与动机及其他认知机制之间的可能机制联系可能是由多巴胺（DA）系统构成的。
综上所述，这些结果表明，主观控制体验具有内在动机性，并能重新校准个体的“动机断点”（即参与者的动机不再有效的努力水平）。因此，在考察人类感知能动性（SoA）时，也应将其与动机方面联系起来考虑。
过多或过少的辅助都是次优的
在自动化背景下，人类感知能动性（SoA）可能变得模糊和模棱两可，从医疗保健到工作环境等领域引发了实际和伦理问题。核心挑战在于，技术可以同时提高客观表现，却降低用户体验到的控制感（SoA）。与全自动化辅助系统的交互有可能削弱用户的内在动机，导致满意度下降，并最终影响系统的安全有效使用。这一问题已被欧盟AI法案正式纳入，该法案要求对“高风险”系统进行人工监督。一些作者指出，这一监督要求仍不明确，可能使工人主要处于观察角色。研究人员认为，将工人的角色仅仅限制为机器监督，有可能削弱工人在活动中的感知能动性（SoA）。当工人对发生的故障负有责任，而他们有效监督自动化系统的能力已被削弱时，这就成为一个伦理问题。
在工作环境中，限制操作者的控制并 favoring 自动化流程，可能会减少安全相关行为，并在罕见但关键故障发生时恶化表现。例如，高度自动驾驶可能引发警觉性下降（如入睡）和接管延迟。一个相关的问题是更广泛的“脱离环路”（out-of-the-loop）问题：当人们被降级为仅监督自动化系统时，在系统故障期间可能难以快速适当地重新进入控制，这一风险在2009年法航447航班坠机事件等讨论中被强调。重要的是，减少手动控制并不一定意味着需求减少：监控和机器故障处理可能仍然需要持续的注意力和产生压力，在认知上具有高负荷。尽管这些例子涉及没有进行感知能动性（SoA）测量的真实事件，但“脱离环路”状态可靠地与感知能动性（SoA）降低相关。基于这一前提，研究人员认为，在这些特定场景中，操作者很可能经历了由过度自动化驱动的感知能动性（SoA）降级。除了安全性和工作负荷，过度自动化从长远来看还会侵蚀感知到的工作意义和所有权，而这些对于长期动机和满意度至关重要。
另一个需要自主性与用户控制之间正确平衡的例子是身体康复领域，临床结果从根本上取决于依从性。重复的治疗练习通常被认为是单调和令人厌倦的，这会降低动机。在这里，引入一定程度的自适应自动化（例如AI驱动的个性化、按需辅助或支持性反馈）可能有助于维持参与度，特别是在家庭康复中，缺乏专业监督给内在动机带来了巨大负担。同时，这些干预必须被设计成患者仍然可以将取得的进步归因于自己的动作，而不是归因于一个不透明的“替他们完成”的系统。
另一方面，过度限制自动化会破坏生产力，并使人们面临可避免的风险。在工业环境中，工业4.0技术（例如AI、机器人技术和连接传感）的实施通过转移危险或重复操作，与减少健康和安全危害相关。工业4.0技术的实施对微型和中小型企业（MSME）的生产力有积极影响，尤其是在采用后的前两年。特别是，研究强调了工业机器人采用和劳动生产力之间的积极影响。研究人员认为，通过找到合适的自动化水平，可以保留这些优势。
对平衡的需求
这些例子说明了一个总体原则：在自动化中引入自主性，同时认真对待人类对控制体验或感知能动性（SoA）的需求，可以为用户的表现、安全性、满意度和动机带来巨大好处。然而，由于极高和极低自动化都不是最有益的，关键因素通常是找到中间水平的辅助，使人们保持有意义地“在环路中”。研究人员将这一最优点称为感知能动性（SoA）的“甜蜜点”（sweet spot of SoA）：一种共享控制机制，最大化自动化的积极影响，同时至少保留（甚至加强）用户体验到的控制感。研究人员提出，感知能动性（SoA）与内在动机之间的关系不是线性的，对于动机存在一个主观感知能动性（SoA）的最优水平（其“甜蜜点”），介于无控制和完全控制的体验之间。直觉上，对动作结果没有任何控制体验会变得令人沮丧，而完全控制的体验可能会变得令人厌倦。想想一个电脑游戏，你已经学会了如何在每一轮中获得最高分，你很可能会很快放弃游戏，因为没有继续玩的动力。另一方面，无法体验对游戏的任何控制会导致挫败感。
有实证研究支持存在一个“甜蜜点”，在该点上感知能动性（SoA）最具动机性。例如，一项研究使用计算机化的“石头-剪刀-布”任务，将厌倦感与感知控制联系起来，发现了一个U型关系：厌倦在控制的低和高两个极端都增加。低控制通过结果无效导致感知能动性（SoA）丧失而引发厌倦，而非常高的控制则通过冗余和信息增益低产生脱离。类似地，另一项研究展示了感知能动性（SoA）的“甜蜜点”。作者向参与者展示了一个网格，要求寻找隐藏目标。通过引入目标位置可预测性的不同程度来操纵控制水平。为了评估客观控制操纵对感知能动性（SoA）的影响，进行了单项操纵检查；结果表明，客观控制的减少显著削弱了主观（外显）感知能动性（SoA）。在最大控制条件下，目标总是放在同一位置，因此一旦掌握任务，就会对结果（识别目标位置）产生完全的感知能动性（SoA）。在最低控制条件下，目标随机分布在网格所有可能位置，因此没有策略可供参与者学习任何模式，因此没有控制感体验。最后，在中等控制水平下，目标根据网格上复杂但可识别的模式定位。因此，对结果有一定控制，但既不是完全也不是零。参与者最初参与所有感知能动性（SoA）条件。随后，他们参加了一个可以选择想继续哪个条件并可以在条件之间切换的环节。作为给定条件引发的内在动机的指标，作者测量了参与者在该条件下进一步参与的时间。数据显示了假设的倒U型模式，中等控制水平确实使参与者参与时间最长，证实了研究人员关于感知能动性（SoA）“甜蜜点”的提议。
关于辅助技术和人类操作者的感知能动性（SoA），研究表明，自动化驱动的表现提升最初可以提升感知能动性（SoA），但一旦用户感到被“带出控制环路”，感知能动性（SoA）最终会下降。这一发现复制了早期研究报告的倒U型模式，将辅助、感知表现和感知能动性（SoA）联系起来。重要的是，该研究还估计了一个转折点，在该点上自动化辅助使用户感觉比手动操作更缺乏控制。这说明了感知能动性（SoA）测量的一个具体设计用例：它们可以识别表现增益开始产生体验能动性心理成本的辅助水平。
来自辅助机器人的证据表明，感知能动性（SoA）及其内在动机可以与客观效率分离。一项研究比较了脊髓损伤患者数周内的手动远程操作和完全自主性：自主性减少了努力，但体验到的满意度并未改善，原始分数有时偏向手动控制。另一项研究表明，在远程操作抓取任务中，分级轨迹校正可以改善表现，同时减少感知能动性（SoA），但中等辅助水平可以提供有吸引力的权衡，即表现和能动性相关结果都相对较高。在Box 1中，研究人员评估了机器人技术的哪些领域可能从他们的框架中受益最多。
Box 1 – 可能的应用
虽然提出的感知能动性（SoA）“甜蜜点”具有广泛的转化潜力，但本文重点关注人类操作的人工智能（AI）赋能机器人技术。研究人员认为以下领域可能从保留提出的感知能动性（SoA）与动机之间的“甜蜜点”关系中受益最多：
协作机器人（Co-bots）：在智能工厂等环境中，人类和协作机器人执行共享操作流程。有时，协作机器人也部分卸载用户的身体和认知任务。完全自动化将人类降级为机器动作的单纯监督者（削弱感知能动性（SoA）），而自动化不足则否定了机器人的效用。在感知能动性（SoA）的“甜蜜点”内运行将确保人类保持积极的、投入的用户状态。
共享控制远程操作：类似动态适用于远程操作，特别是在机器自主优化用户输入的情况下（例如自动校正机器人抓握的施加力）。校准这种自动化辅助对于保留操作者的主观控制感（SoA）至关重要。
康复机器人：识别最佳感知能动性（SoA）水平在涉及机器人设备辅助患者进行重复练习（例如外骨骼）的身体康复中可能至关重要。需要微妙的平衡：系统必须提供必要的机械支持，同时不掩盖患者的运动意志，而患者必须保持发起和执行动作的主观感受。
在这些不同领域中，机器人在长时间内辅助用户。因此，持续校准机器辅助以及维持感知能动性（SoA）的“甜蜜点”对于在日常活动中培养持续的用户参与度、依从性和动机至关重要。
“甜蜜点”理论仍在发展中。因此，这里描述的许多理论提议需要进一步实证研究。特定用户的最佳体验能动性水平可能受多个变量调节，包括与任务（难度、领域）和个体差异（如人格特质、年龄和文化背景）相关的变量。这些可能会动态改变最优阈值，例如，焦虑的人可能偏好感知更高水平的控制，以感觉更能预测未来事件（从而降低焦虑水平）。先前的研究已经表明其中一些变量与感知能动性（SoA）之间存在联系。虽然推测每个因素的比重为时过早，但未来的实证研究对于阐明决定每个用户最佳体验能动性水平的机制至关重要。研究人员在Box 2中回顾了进一步的未来挑战。
Box 2 – 未来挑战
“甜蜜点”框架仍在发展中。在未来研究的许多潜在路径中，一些突出的挑战是：
测量感知能动性（SoA）的生态学效度：目前，感知能动性（SoA）的评估使用的方法主要在高度控制的实验室范式中得到验证，并采用离散测量。例如自愿动作与其感官结果之间的时间压缩效应，以及通过事件相关电位调制表现的动作感官结果的感官衰减。一个关键挑战是使这些措施适应实验室外更具生态学效度的环境，从而在复杂的真实世界环境中实现感知能动性（SoA）的稳健量化，主要涉及连续任务。在实验室外量化能动性对于将“甜蜜点”框架转化为有意义的实际应用至关重要，不仅在辅助技术和人机交互领域，也在教育、医疗等其他领域。例如，当神经科医生为中风患者开具家庭物理康复处方时，持续的动机对治疗成功至关重要。借助生态学效度工具，可以持续评估特定用户体验的感知能动性（SoA）水平，并调整交互以实现最高水平的动机和参与度。
无实体人工智能（Disembodied AI）：用“无实体人工智能”一词，研究人员旨在指代所有没有物理效应器来与环境进行物理交互的人工智能案例，如大型语言模型（LLMs）。这些系统在非常广泛的情境中支持人类用户，例如教育和决策。此外，虽然操作者控制对此类系统的提示，但大型语言模型（LLM）的输出本质上由内部机制决定，透明度很低或没有，可能不完全符合用户意图。虽然本文仅关注动作和物理辅助设备背景下的感知能动性（SoA）“甜蜜点”，但这些原则是否扩展到无实体人工智能（Disembodied AI）仍是一个开放问题。随着智能体人工智能系统的出现，人类操作者意图与系统结果之间的联系变得更加间接，用户越来越多地指定高层目标。随着这些系统速度的提高，人们越来越担心人类的角色将变为接近环路（near-the-loop）而非在环路中（in-the-loop），并且越来越多地是监控大部分自动化的决策。
伦理影响：大多数“甜蜜点”框架的转化应用意味着修改主观能动性体验的程度，以实现更高水平的动机。这种改变引入了重大的伦理挑战。如果系统或人员可以动态瞄准感知能动性（SoA）的“甜蜜点”，则存在这样的风险：这种机制可能被故意操纵，以最大化用户对技术的依从性、依赖性或参与度，而用户并未明确知晓该操纵。建立伦理准则以确保感知能动性（SoA）优化不损害透明度，是我们框架实际应用的开发的关键一步。
总结
总之，研究人员提出，人与机器人以及人与人工智能（AI）的交互应将用户的内在动机视为一个关键要素，因此不仅应考虑技术系统的表现和自动化，还应考虑用户的控制体验（SoA）。人类操作、人工智能（AI）赋能机器人技术应被设计成使人类操作者通过处于完全控制与无控制之间最优水平的感知能动性（SoA）体验到最高程度的动机。尽管提出的“甜蜜点”框架仍是一个发展中的构想，但它提供了一个基础，需要在各种认知、行为和应用领域进行严格的实证验证。开发系统方法来测量感知能动性（SoA）并调整共享控制策略以趋向动机的感知能动性（SoA）“甜蜜点”，有助于使机器生产力与人类内在动机保持一致——这是更广泛的“AI与心理学”议程的一个及时目标。
