多参数二次规划问题的精确前馈神经网络表示及其在显式MPC中的应用

《Automatica》：Exact feedforward neural network representations of multi-parametric quadratic programs with applications to explicit MPC

　　摘要：本文提出了一种直接构建前馈整流线性单元神经网络的方法，该网络能够精确表示一类多参数二次规划问题的显式解。对于给定的多参数二次规划问题，其神经网络的权重和偏置可以通过解析方法确定，从而无需训练过程。对于具有n个不等式约束的多参数二次规划问题，所得神经网络的最大层数为n层，其中第?层（?∈{1,…,n}）的神经元数最多为nn?1??1，因此总神经元数的上限为n2/2。尽管神经元数量会随着约束数量的增加而呈指数级增长，但这些权重矩阵却是稀疏的。对于具有对称上下界的多参数二次规划问题，还可通过使用截断型整流线性单元激活函数得到结构更简单的神经网络，其神经元数仍为n2/2，但此时n为不等式约束总数的一半。所提出的方法使得与线性模型预测控制相关的最优反馈控制策略能够以前馈神经网络的形式表示。若干数值示例表明，对于约束较少的多参数二次规划问题，这种神经网络表示方式在生成和计算速度上显著快于基于区域的显式解法。

引言：在最优解依赖于参数向量的约束优化问题中，多参数规划旨在通过显式计算将参数向量映射到对应最优解的函数，从而为所有可能的参数向量求解优化问题。对于具有二次成本函数和线性约束的多参数二次规划问题，已知其参数到最优解的映射函数为连续分段线性函数。在模型预测控制等应用中，参数向量通常包括测量状态或输出、已知参考值以及估计或预测的扰动，而最优解则为需施加到系统上的控制输入。在显式模型预测控制中，相关多参数二次规划问题的解被存储为分段仿射函数，此时参数空间被划分为有限个凸多面体区域，每个区域都有一个将参数映射到最优解的仿射函数。这与隐式模型预测控制不同，后者需要在线使用迭代二次规划算法来为给定参数向量计算最优解。虽然对于规模较小的问题，显式模型预测控制的计算速度可能更快，但随着优化问题规模的增大，由于凸多面体区域数量的指数级增长，显式模型预测控制的应用往往受到限制。区域数量的增加会带来三方面的问题：一是确定这些区域及相应控制策略的离线计算时间增加；二是存储区域定义和控制策略的在线内存需求上升；三是为在控制器每一步确定包含参数的凸多面体而需要的在线计算量增加。为了在利用现代图形处理单元的计算能力的同时降低内存需求并加快在线计算速度，人们一直在研究将模型预测控制律表示为深度前馈神经网络。这类神经网络的输入为参数向量，输出为最优解向量。当使用整流线性单元激活函数时，模型预测控制律的评估仅需进行矩阵乘法、向量加法和逐元素最大值运算，这些操作都具有很高的并行性。由于整流线性单元神经网络也是连续分段线性函数，因此有理由认为它们能够精确表示多参数二次规划问题的连续分段线性解。2020年，Karg和Lucia给出了此类整流线性单元神经网络表示的宽度和深度的显式界限。具体而言，为基于nx个参数计算nu个最优解，Karg和Lucia的方法需要2nu个神经网络，每个神经网络的每层都有nx+1个神经元。每个网络的层数等于使模型预测控制律的分段仿射函数差值为零的凸分段仿射函数的区域数量。该方法利用了这样一个事实：每个标量分段仿射函数都可以表示为两个凸分段仿射函数的差值，而且每个定义为仿射函数逐点最大值的凸分段仿射函数都可以表示为整流线性单元神经网络。需要注意的是，计算这些神经网络的规模需要先求解多参数二次规划问题的分段仿射解。尽管Karg和Lucia通过一个小例子展示了如何计算这类整流线性单元神经网络的规模，但这些神经网络的权重和偏置是通过利用分段仿射解收集的数据进行训练来确定的。在目前尚无直接确定多参数二次规划问题解的神经网络表示方法的情况下，许多研究致力于训练神经网络以获得近似解，包括Chen等人2018年的工作、Drummond等人2024年的工作、Ferlez和Shoukry 2020年的工作、Karg和Lucia 2020年的工作以及Kis等人2021年的工作，此外Gonzalez等人2023年还总结了大约30项针对线性模型预测控制和非线性模型预测控制的相关研究。这些研究取得了巨大成功，训练后的神经网络能够在远少于理论上精确表示分段仿射解所需神经元数的情况下实现较低的近似误差。这种基于训练的方法也被用于近似表示非线性模型预测控制相关的控制律，因为这类问题的精确解无法表示为分段仿射函数（详见Gonzalez等人2023年的综述）。然而，任何基于训练的方法都存在一些局限性，比如获取足够训练数据的问题、训练的计算成本问题，以及控制精确解与近似解之间误差的控制问题，而对于参数数量众多的多参数二次规划问题来说，这些问题尤为棘手。为了避免训练过程，多参数二次规划问题的解可以表示为反馈神经网络，即在代数反馈回路中包含一层整流线性单元激活函数的神经网络。反馈神经网络可以是OptNet层的一种形式，也是一种隐式网络模型，或是深度均衡模型。反馈神经网络的主要优势在于其紧凑的表示形式和较低的内存占用，因为表示具有n个不等式约束的多参数二次规划问题仅需n个神经元。不过，评估反馈神经网络的输出需要采用迭代求解方法，而这些方法的收敛速度往往较慢。另一种方法是，本文首次提出了一种直接生成能够精确表示多参数二次规划问题解的单层前馈整流线性单元神经网络的方法。该神经网络有p个输入，对应多参数二次规划问题的p个参数，同时有d个输出，对应d个决策变量（即最优解）。该神经网络的规模仅取决于不等式约束的数量n。具体而言，所提出的方法生成的神经网络最多有n层，其中第?层（?∈{1,…,n}）的神经元数最多为nn?1??1，因此总神经元数最多为n2/2。虽然Karg和Lucia 2020年的方法需要2d个宽度相对较小但深度较大的神经网络，但所提出的方法则能生成一个深度相对较小但最大宽度较大的单一神经网络。尽管所提出神经网络的规模取决于约束数量n，但其权重和偏置可以直接从定义多参数二次规划问题的矩阵中计算得出。因此，该方法无需训练，且生成的神经网络能够精确表示多参数二次规划问题的解。所提出的方法遵循标准流程，先将多参数二次规划问题转化为多参数线性互补问题，再运用van Bokhoven和Leenaerts 1999年的主要研究成果，该成果指出，n维多参数线性互补问题的解是(n?1)维多参数线性互补问题解的连续分段线性函数。本文的主要贡献在于建立了基于整流线性单元的前馈神经网络规模的理论框架，以及一种能够精确生成权重和偏置的构造方法，从而实现多参数二次规划问题解的精确表示。虽然神经元数量的指数级增长可能会限制该方法在约束数量相对较少的多参数二次规划问题中的实际应用，但由于近年来在神经网络分析技术方面的进展，以及专为评估大规模神经网络而开发的软件和硬件，多参数二次规划问题解的神经网络表示方法仍然具有很大的应用价值。不过，优化后的软件和硬件实现，包括在图形处理单元上的实现，已超出本文的研究范围。本文的其余部分结构如下：第2节介绍了多参数二次规划问题及其相关多参数线性互补问题的建模背景，以及多参数线性互补问题的递归求解方法；第3节介绍了本文的主要成果，包括构建多参数线性互补问题和解的多参数二次规划问题的前馈神经网络表示方法；第4节通过若干数值示例比较了所提出的前馈神经网络表示方法与传统的分段仿射函数表示方法的优势；第5节给出了本文的一些结论。附录中介绍了一些降低神经网络复杂度的实用方法，这些方法在实践中很有价值，但并非理解本文主要贡献所必需。符号说明：向量、矩阵和连续集合分别用小写字母、大写字母和花体大写字母表示。从1到n的整数集合用{1,…,n}表示，而去掉元素i后的同一集合则用i?={1,…,n}?i表示。对于离散集合α，其元素个数（基数）用|α|表示。从n个元素中选择k个元素组成的子集的组合数用nk表示。方括号表示法x=[xi]表示由元素xi组成的向量，其中元素的个数要么在文中明确给出，要么可从上下文推断出来。在描述与神经网络和多参数线性互补问题相关的变量时，上标用于索引，不应与幂运算混淆。