综述：以控制为导向的系统识别：经典方法、学习方法及基于物理的方法

《Annual Reviews in Control》：Control-oriented system identification: Classical, learning, and physics-informed approaches

　　摘要：本文综述了经典方法、机器学习方法以及数据驱动的系统识别方法，旨在构建与控制相关的、基于物理原理的动态系统模型。近年来，机器学习方法使得从噪声较大、维度较高且结构复杂的 ???中识别系统成为可能。然而，由于它们难以为控制相关属性提供可证明的保证，其在控制应用中的实用性受到限制。而传统控制理论则明确了物理系统中若干对分析和控制设计有用的属性，如耗散性、单调性、能量守恒以及保持对称性的结构。本文认为，将系统识别算法与这类控制相关或基于物理的属性相结合，能够提供有用的归纳偏差，提升模型的可解释性，实现具有可证明保证的控制合成，并降低对样本数量的需求。我们将系统识别视为一个优化问题，可通过三种方式来确保控制相关属性得到体现：直接参数化（通过构造约束使模型结构满足特定属性）、软约束（通过正则化或惩罚项引导模型具备控制相关属性），以及硬约束（在优化问题中将控制相关属性作为约束条件）。基于这一视角，本文梳理了从经典线性及非线性系统识别技术、基于机器学习的方法，到通过数据驱动和行为表征进行直接识别的各种方法，以构建基于物理且与控制相关的模型。总体而言，这些研究思路表明，以控制为导向的系统识别不应仅被视为最小化预测误差的问题，还应视为选择能够保留后续分析和控制设计所需属性的模型结构与学习方法的过程。文中提供了多个示例，并在公共Github仓库中给出了相应代码及简要使用教程。同时，我们还指出了该领域未来研究的若干关键方向，包括在网络化、开关式及时变系统中的识别方法、实验设计方法，以及弥合数据驱动、基于学习的识别方法与以控制为导向的识别方法之间的差距。

引言：机器学习的核心是从数据中学习。由于控制理论同样致力于利用数据来识别系统模型、估计并调控系统状态，因此人们自然会思考，对机器学习的重新关注是否能为控制领域带来新的算法和更有用的保证。本综述聚焦于作为基于模型控制前提的系统识别技术。系统识别是自动控制与信号处理领域中一个基础且被广泛研究的课题。其基本问题在于：某个系统在输入数据的激励下会产生输出数据，我们希望利用这些输入和输出数据构建一个模型，该模型不仅能解释用于构建它的数据，还能泛化到其他未见过的数据上（Ljung等人，2020年）。这可以被视为一个函数逼近问题，而这正是机器学习试图解决的问题——机器学习具备处理任意噪声分布、高维数据以及复杂损失函数的潜力。不过，本综述的核心观点是，尽管机器学习确实能为系统识别带来令人振奋的新算法，但要充分实现这一潜力，单纯的“传统”机器学习算法是不够的，我们需要那些基于物理原理且以控制为目标的学习算法，这样才能确保所学模型具备对后续控制设计有用的属性。那么，什么是以控制为目标的学习算法呢？传统控制理论已经明确了动态系统中若干对分析系统或设计控制律有用的属性。这些属性通常源自系统物理或动力学的基本原理，比如对称性或能量耗散特性，它们有助于设计出能够实现期望闭环响应的控制器。通过将这些基于物理或与控制相关的属性与学习算法相结合，我们期望能够构建出兼具两种优势的系统模型。在构建模型时坚持要求具备此类属性的第一个原因是，它们能为学习算法提供有用的归纳偏差。能够解释给定（或训练用）输入输出数据的模型有很多种，判断这些模型实用性的唯一标准就是它们能否泛化到未见过（或测试用）的数据上。如果要求所学模型具备我们从物理或系统结构中已知的属性，那么这种约束很可能为学习算法提供强大且有效的归纳偏差。即便所学模型在训练数据上的误差指标表现尚可，但具备物理约束的模型往往具有更好的泛化能力。要求所学模型具备此类属性的第二个原因在于，数十年来控制合成领域的发展一直依赖这些属性来提供可证明的保证。在控制工程应用中，人们的目标通常不仅仅是利用输入输出数据构建一个开环模型，而是要利用该模型设计出具有期望闭环特性的控制系统。许多控制器设计方法都借助耗散性和单调性等属性，为闭环系统行为提供保证。例如，耗散系统和单调系统的组合性质已被广泛用于网络系统中的可扩展控制设计。如果所学模型也具备我们从物理原理中预期会存在的这类属性，那么就可以采用类似的控制器设计方法，从而为闭环系统行为获得强有力的保证。另一个需要纳入先验物理信息的原因是为了获得可解释的系统模型。众所周知，像用于基于学习控制的神经网络这样的黑箱模型的输出结果，以及由此产生的故障模式，往往难以直观理解。因此，当基于这些模型的控制设计未能达到预期效果时，其根本原因往往并不清楚，设计者不得不通过反复试验才能获得可接受的性能。相反，如果像神经网络这样的黑箱系统模型能够具备一些关键的物理属性，比如守恒定律、对称性或能量耗散特性，那么其输出结果或故障模式就可以通过基于这些属性的定义（如耗散性指数）或对这些属性的违反情况（如对称性被打破）来加以解释。这样，期望的输入输出行为就可以转化为对这些属性的特定要求，进而通过可解释的控制设计来实现。最后，我们还认为，强制要求模型具备此类属性能够降低学习算法对样本数量的需求。其原理在于，这些属性限制了所学模型的自由度，从而使模型能够以更高效的方式被学习到。Miller等人（2020年）、Cuomo等人（2022年）以及Son等人（2023年）的一些实证研究都支持这一观点：在数据量有限的条件下，基于物理信息且能够保持结构特征的神经网络模型，与无结构神经网络相比，能够以更少的训练样本实现相当甚至更高的预测精度。基于以上原因，将学习领域中发展出的强大方法拓展应用于识别具有物理信息且以控制为导向的动态系统模型，已成为多个研究领域的重点发展方向。这一方向有望突破自动控制与信号处理领域传统上的诸多限制性假设，同时也能让学习算法更好地服务于物理系统的分析与控制。本综述的目的是为学生、研究人员以及从业者提供该领域的概览。我们旨在对目前已提出的各类方法进行分类，以便读者在面对众多纷繁复杂的建模理念和方法时能够把握该领域的整体框架。同时，我们也指出，那些源自控制理论的经典系统识别技术是该领域的重要基础，任何希望在该领域做出有意义贡献的人都需要掌握这些技术。此外，我们还向读者简要介绍了如何通过来自学习领域的新兴方法与工具，以及源于行为系统理论等概念的数据驱动表征方法，来补充和完善这些现有方法。尽管已有许多关于学习与控制交叉领域各方面的优秀综述，但我们的目标和呈现方式与之有所不同。具体到系统建模与识别这一问题，目前有两类研究与本文的重点高度契合。第一类是基于物理信息或科学方法的机器学习，相关研究可见Z. Chen等人2021年的工作、Cuomo等人2022年的研究、Karniadakis等人2021年的研究、Wang和Yu 2021年的研究、Willard等人2020年的研究以及Yu和Wang 2024年的研究，这类研究的思路是利用系统物理的先验知识，提升深度学习模型的泛化能力和可解释性，其应用范围涵盖预测、推理以及常微分方程或偏微分方程的求解等诸多领域。不过，这些研究通常并不专注于与控制相关的模型，只有最近的几篇教程（Drgona等人2025年、Nghiem等人2023年）有所涉及，其中部分内容探讨了针对特定模型类别和结构先验的、用于系统识别的基于物理信息的学习方法。第二类与之密切相关的研究是面向控制的系统识别，这一领域有着悠久而丰富的历史，相关研究可见Gevers 2005年的著作，这类研究通常聚焦于传统的系统识别工具。不过Pillonetto等人2025年的研究是个例外，他们从优化算法和基于核的方法的角度，研究了用于系统识别的深度学习架构。近年来，人们对数据驱动控制的兴趣再度升温（van Waarde等人2025年），这也促使人们开始研究基于行为系统理论的数据驱动系统表征方法（Markovsky和D?rfler 2021年），以及基于Koopman算子之类的算子动力学模型（Bevanda等人2021年）。即便在这些领域中，也尚未出现专门探讨如何学习能够捕捉特定控制相关属性或基于物理约束的表征或模型的全面综述。本文正是为了填补这两类研究以及现有综述文献之间的空白，同时梳理了经典方法与基于学习的各种方法，以解决为动态系统及其控制合成识别具有物理约束且与控制相关的模型这一具体问题。本文的结构如下：第2节首先介绍系统建模技术，并阐述本文所考虑的与控制相关的属性，即耗散性、单调性以及保持对称性的结构（如拉格朗日动力学和哈密顿动力学）。随后，我们在第3节正式将构建满足这些属性的模型这一问题定义为一种带约束的优化问题，并概述了解决该问题的多种思路。接着，第4节介绍用于捕捉控制相关属性的经典系统识别技术，第5节介绍深度学习领域的相应技术，第6节则探讨通过行为表征等方式直接对这类属性进行数据驱动识别的方法。本文中所有数值示例的代码均可在我们的Github仓库中找到。第7节最后提出了该领域未来研究的若干方向。符号说明：在整篇论文中，标量与向量分别用小写字母表示。实数集用R表示，n维实向量集用Rn表示。对于向量x∈Rn，‖x‖表示其欧几里得范数。运算符?x表示对变量x的梯度。对于函数t?x(t)，符号x?和?分别表示x(t)的一阶导数和二阶导数。复数集用?表示。变量s∈?表示拉普拉斯变量（复频率），ω∈R表示实频率，在傅里叶域中s=iω。矩阵用大写字母表示。对于矩阵A，其转置记为A?，若其存在逆矩阵，则记为A?1。矩阵之间的不等关系按照标准的正（半）定定义来判定：A?0表示A是正定的，而A?0表示A是半正定的。类似地，A?0表示A是负定的，A?0表示A是半负定的。状态空间模型通过定义与输出时间相对应的状态变量x(t)=(x1(t),…,xn(t))，将式(1)中的n阶常微分方程转化为n个一阶常微分方程的组。为何要保留与控制相关的特性？通常而言，保留与控制相关的以及其他基于物理特性的系统属性，如2.3节中所述的那些，具有诸多优势。首先，纳入关于系统物理特性的先验信息往往能提高识别算法的样本效率以及所识别模型的泛化能力。其次，诸如耗散性和单调性这类与控制相关的特性可以被利用来辅助设计可扩展的分布式控制系统。

在经典系统识别中，我们现在重点探讨如何在线性和非线性动态系统的经典系统识别中引入基于物理特性的且与控制相关的属性。

基于深度学习的系统识别通常被构建为一种监督学习问题。在系统识别问题中，我们会得到一个由连续时间动态系统的输入-输出轨迹构成的数据集W={(ui,k,yi,k)}i。我们的目标是学习一个具有动态函数fθ和输出函数hθ的非线性状态空间模型，其中的模型参数θ可通过无约束优化(15)或带约束的系统识别问题(22)来确定。对于深度学习方法的运用，还可实现与控制相关的特性的直接识别与验证。

控制领域中一个新兴的研究方向源自行为系统理论（Markovsky & D?rfler, 2021），该理论采用无需显式表示的方法，通过输入-输出轨迹而非传递函数或状态空间模型来描述动态系统。诸如耗散性这样的与控制相关的特性也可以应用到这一框架中，从而能够直接根据实测数据来验证这些特性；这一问题已得到了相关研究。

正如我们之前所阐述的，目前已有大量研究成果出现，而且随着学习技术的不断发展，还有更多研究正在开展，这些研究旨在拓展并完善经典的系统识别算法。不过，这一领域仍有许多尚未解决的问题。在下文中，我们不会聚焦于本文所涉及的各个方向中的具体挑战，而是概述一些尚未得到充分探索的重要研究方向。

作者声明不存在任何可能影响本文所述工作的已知财务利益冲突或个人关系。

Y. Shi和J. Feng的工作得到了美国国家科学基金会（NSF）的ECCS-2442689项目、能源部（DOE）的DE-SC0025495项目以及Schmidt Sciences AI2050早期职业奖学金的支持。J. Feng的工作还获得了加州大学-国家实验室驻校研究生奖学金L24GF7923的支持。Y. Xu、S. Sivaranjani和V. Gupta的工作部分得到了美国空军科学研究办公室在FA9550-23-1-0492项目下的资助。V. Gupta的工作还获得了AROS的部分支持。

Sivaranjani|Yuanyuan Shi|Nikolay Atanasov|Thai Duong|Jie Feng|Tim Martin|Yuezhu Xu|Vijay Gupta|Frank Allg?wer
美国印第安纳州西拉法叶市普渡大学爱德华森工业工程学院，邮编47907