《Annual Review of Control Robotics and Autonomous Systems》：Neural Networks in the Loop: Learning with Stability and Robustness Guarantees
编辑推荐：
随着机器人、自主系统等安全关键应用中神经网络（NN）使用量的不断增加，对其安全性、稳定性及鲁棒性的验证需求日益迫切。本文旨在综述近年来开发的兼具多种内置鲁棒性认证的NN模型结构（含静态与动态两类），这些认证涵盖对抗扰动的敏感度有界性（Lipschitz性）、动
随着机器人、自主系统等安全关键应用中神经网络（NN）使用量的不断增加，对其安全性、稳定性及鲁棒性的验证需求日益迫切。本文旨在综述近年来开发的兼具多种内置鲁棒性认证的NN模型结构（含静态与动态两类），这些认证涵盖对抗扰动的敏感度有界性（Lipschitz性）、动态稳定性及鲁棒可逆性等维度。通过这项工作，研究人员希望进一步打通控制理论与机器学习领域的连接通道。本文系统性梳理了在保障模型表达能力与训练推理计算效率的前提下，实现上述鲁棒性属性的工具框架：表达能力通过基于鲁棒控制中积分二次约束（IQC）理论的精细化认证方法得以保留，计算效率则通过直接参数化方法实现——该方法支持使用梯度下降等标准无约束优化方法学习鲁棒模型，无需引入辅助约束或投影操作。研究人员进一步展示了此类鲁棒NN模型可作为基础构件，应用于学习型控制系统组件的架构设计中，具体包括具备收敛性保证的物理信息非线性观测器（状态估计器）、具备稳定性与鲁棒性保证的控制策略参数化方案，以及李雅普诺夫函数及其变体（如存储函数与值函数）。
这篇发表于《Annual Review of Control Robotics and Autonomous Systems》的综述系统梳理了具备内置稳定性与鲁棒性保障的神经网络（NN）研究进展，旨在弥合控制理论与机器学习的方法论鸿沟。当前，机器人与自主系统的性能需求持续提升，而反馈控制策略的核心——黑盒NN模型虽能通过强化学习（RL）优化任意代价/奖励函数，却面临稳定性、安全性与鲁棒性难以验证的瓶颈，严重制约其在协作机器人、医疗机器人、自动驾驶等安全关键场景的部署。针对这一挑战，研究人员提出三类核心目标：鲁棒性（模型需兼容控制领域常用系统分析工具的认证条件）、表达能力（在鲁棒约束下最大化模型表征能力）、可微性（模型参数需平滑可微，适配基于自动微分的一阶优化流程）。文章指出，同时实现鲁棒性与表达能力通常需要高度过参数化模型，因此计算可处理性是关键支撑。
为实现上述目标，研究人员采用的核心技术方法包括：基于积分二次约束（IQC）的增量分析框架，通过S-过程将非线性激活函数的单调性与斜率限制转化为线性矩阵不等式（LMI）约束；直接参数化方法，通过平方根参数化（如H=PPT）与凯莱变换（Cayley transformation）构造满足LMI约束的无约束参数空间，避免投影或障碍函数带来的计算开销；收缩分析与增量耗散理论，将动态模型的稳定性转化为轨迹间的指数收敛性（收缩性）与输入输出Lipschitz性；Youla参数化架构，结合基控制器与观测器，将稳定控制策略的设计转化为稳定动态模型的学习问题。
论文主体部分的研究结果如下：
- 3.
Lipschitz有界神经网络：研究人员推导了多层感知机（MLP）的Lipschitz常数上界计算方法，对比了谱归一化（SN）与基于半定规划（SDP）的认证方法的紧密度差异，前者计算成本低但边界宽松，后者边界更紧但难以扩展到千级神经元以上的模型。通过直接参数化构造了三明治层（sandwich layer）等1-Lipschitz层结构，实现了百万级参数模型的训练，并在Atari Pong的强化学习实验中验证：Lipschitz有界策略在均匀随机噪声与对抗攻击下的性能显著优于无约束卷积神经网络（CNN），且Lipschitz正则化不会显著降低干净样本的奖励值。
- 4.
收缩与Lipschitz循环模型：研究人员提出了循环均衡网络（REN）这一动态模型家族，其通过隐式网络均衡方程与线性时不变系统的互联实现，可通过LMI约束直接参数化为收缩且Lipschitz的动态系统。应用该模型于物理信息观测器学习，针对反应-扩散偏微分方程（PDE）的不稳定系统，REN观测器能从大初始误差快速收敛到真实状态，实现对高维非线性系统的稳定状态估计。
- 5.
稳定控制策略的参数化：研究人员将Youla参数化与REN结合，构建了Youla REN架构，包含基控制器、观测器与REN形式的自由参数模块，使策略仅需学习“对意外的响应”（观测器创新信号）。在不确定质量参数的小车-摆杆系统RL实验中，Youla REN在训练中全程保持稳定，长期测试无发散，且在全参数范围内均实现稳定控制，性能优于残差长短期记忆（LSTM）网络与卡尔曼滤波+模型预测控制（MPC）的组合方案。
- 6.
双Lipschitz网络与神经李雅普诺夫函数：研究人员通过强输入输出单调性构造双Lipschitz网络（BiLipNet），证明其可逆性并支持直接参数化。将BiLipNet作为基函数构建神经李雅普诺夫函数，可生成非凸水平集，突破了输入凸神经网络（ICNN）的表达局限；进一步结合端口哈密顿结构，可参数化稳定的神经常微分方程（ODE），适用于机器人物理交互学习。
讨论部分总结：研究人员指出，直接参数化方法已具备实用潜力，但仍面临四大开放挑战：一是可扩展性，大规模模型中凯莱变换的矩阵求逆仍是计算瓶颈，且初始化方法尚未优化；二是约束丰富性，当前仅关注欧几里得范数下的增量边界，未来需拓展至吸引域等非增量约束；三是架构创新，需在基础构件之上设计更复杂的系统级架构；四是优化景观，直接参数化改变了损失函数的几何结构，其对梯度算法行为的影响仍需理论分析。此外，这类方法可与域随机化、对抗训练等互补工具结合，且已实现JAX与Julia的开源库开发，为实时硬件上的持续学习提供了安全基础。
