人工智能多智能体系统中的协同韧性

《IEEE Transactions on Artificial Intelligence》：Cooperative Resilience in Artificial Intelligence Multiagent Systems

该研究提出合作韧性的明确定义及量化方法，通过验证强化学习（RL）和大型语言模型（LLM）增强的自主体在环境变化及不可持续行为干扰下的表现，揭示了韧性指标在系统应对干扰中的关键作用，为人工智能领域提供基础理论支撑和应用框架。

　　

影响声明：

本文提出了“合作韧性”在人工智能（AI）系统中的统一定义和定量测量方法。通过分析基于强化学习（RL）和大型语言模型（LLM）的自主系统……显示更多

摘要：

韧性是指系统抵御、适应并从破坏性事件中恢复的能力。尽管关于韧性的研究在各个研究领域都受到了广泛关注，但在合作式人工智能（AI）领域中，这一概念的精确定义仍然不明确。本文通过提出“合作韧性”的明确定义，并概述其定量测量方法来填补这一空白。该方法在基于强化学习（RL）和大型语言模型（LLM）的自主代理环境中得到了验证，这些代理面临着环境变化以及引入具有不可持续行为的代理的情况。这些事件被参数化以创建多种场景，用于测量合作韧性。研究结果强调了韧性指标在分析集体系统如何准备应对、抵抗、从破坏中恢复、维持福祉以及在面对中断时进行转型方面的重要作用。这些发现为合作韧性的定义、测量和初步分析提供了基础性见解，对整个AI领域具有重要意义。此外，这里开发的方法和指标可以应用于各种AI应用，提高AI在动态和不可预测环境中的可靠性和有效性。

引言

理解系统如何抵御和适应逆境已成为研究人员关注的焦点。这种能力被称为韧性。韧性概念已在多个领域得到广泛探讨，包括博弈论[1]、[2]、[3]、[4]、人工智能（AI）系统[5]、[6]、[7]、[8]、[9]、工程学[10]、[11]、[12]、心理学[13]、[14]、[15]、[16]、[17]、[18]、经济学[19]、[20]、[21]、社会科学[22]、[23]、网络科学[24]、[25]、[26]、[27]、动态系统理论[28]、[29]、[30]、多机器人系统[31]以及生态学[32]、[33]、[34]等。特别值得关注的是，理解涉及集体行动的系统（无论是人类、机器还是两者的结合）如何从它们的互动中展现出韧性这一涌现属性。这些系统都属于合作式AI的范畴。