《RELIABILITY ENGINEERING & SYSTEM SAFETY》:Entropy Modelling of Hierarchical Structures and Systemic Risk
编辑推荐:
层次系统通常是复杂的、具有自适应性并表现出随机行为(stochastic behavior)的。此类系统可靠性领域的一个紧迫问题是系统风险(systemic risk),其指整个系统失效的风险,而非仅其组成部分的失效。目前,系统风险研究尚未得到充分开展,用于其
层次系统通常是复杂的、具有自适应性并表现出随机行为(stochastic behavior)的。此类系统可靠性领域的一个紧迫问题是系统风险(systemic risk),其指整个系统失效的风险,而非仅其组成部分的失效。目前,系统风险研究尚未得到充分开展,用于其分析与检测的工具仍缺乏。本文针对层次系统,提出将连续随机向量(continuous random vectors)的微分熵(differential entropy)——作为任何具有随机行为系统的基本特征——用作研究系统风险的工具。随机向量的熵被分解为两个分量,一个表征混沌(chaos),另一个表征其元素之间的相互依赖性(interdependence)。文中给出了以随机性与依赖性熵测度表达的系统风险解释。考虑了层次系统中所有主要相关关系变体,包括所有元素之间的交叉相关、系统不同层级子系统之间的相关,以及单个元素与一组元素之间的相关。解析公式的简洁性使该向量熵模型(vector entropy model)得以实际应用。此外,所提方法不仅能够监控整个系统,还能监控其各个子系统,拓展了其实际应用可能性。文中给出高斯层次系统(Gaussian hierarchical systems)示例,展示了利用该熵模型监控系统风险的可能性。
【研究背景与问题】各领域对系统效率的需求推动新开发与既有系统负载加重、结构复杂化,集中体现为层次化、多层级组织。层次结构(hierarchy)将交互自最高层级组织至最低层级,各层级分担特定角色并通过交互维持系统完整与有效。由于系统运行在很大程度上具随机性(stochastic behavior),节点之间存在相关(correlation)连接。此类系统多关乎民生、重大投入或国家安全,失效可致灾难性后果。但层级间信息损失与跨分支通信问题造成信息不确定性,在复杂化与负载增加背景下放大风险,形成系统风险(systemic risk)。现有方法各有不足:贝叶斯网络(Bayesian networks)受限于可扩展性、结构学习与表达力,且缺乏系统性结果解释;多维copula函数(multidimensional copula functions)受“维数灾难”(curse of dimensionality)困扰,难刻画跨层级关系;概率距离(probabilistic distance)计算耗时且依赖特定假设。系统风险概念迄今缺乏统一定义,因此基于一般系统模式研究该问题十分必要,而连续随机变量的分布律提供描述随机变量最全面的信息,微分熵(differential entropy)正具此潜力。
【研究内容、结论与意义】Alexander Tyrsin、Michail Gerasimov与Michael Beer提出了诊断层次系统系统风险的向量熵模型(vector entropy model)。该模型将连续随机向量微分熵分解为混沌测度(measures of chaoticness)与依赖测度(measures of dependence),分别表征系统无序与有序性质;分解适用于一大类随机向量分布,并证明微分熵变化与热力学第二定律扩展形式一致。论文考虑所有基本相关变体,并在各情形中确立相关指标可由系统微分熵解析确定。论文发表于《RELIABILITY ENGINEERING》,其意义在于以简洁解析公式支撑实际应用,使模型不仅能监控整个系统,还能监控各子系统,为复杂层次系统风险诊断提供了系统化、可操作的量化工具。
【关键技术方法】研究人员主要采用以下关键技术方法:其一,连续随机向量微分熵建模,将系统状态视为多维连续随机变量,以概率密度泛函刻画系统;其二,熵的加性分解,利用确定指数(determination index)将总熵分解为混沌度H
v(X)与依赖测度I(X),混沌度进一步区分为动力熵H
d(X)与随机性熵H
s(X);其三,相依结构解析计算,高斯情形由相关矩阵行列式|R
X|直接得到,非高斯情形以局部线性回归(local linear regression)估计条件确定指数R
2Xk|X1…Xk-1,避免重构多维分布;其四,样本监控设计,采用滑动窗口(sliding window)截取11年区间、以7个相邻观测做二阶多项式平滑;其五,分布适配性检验,以Shapiro-Wilk、Kolmogorov-Smirnov与Frozini准则检验各指标高斯性。实证数据来自德国联邦统计局与国际货币基金组织1991—2024年德国宏观经济八项年度指标,共24个滑动窗口。
【研究结果】1. 微分熵分解定理:方差有限且分量互不函数依赖的连续随机向量,其微分熵存在,等于各分量标准差对数、分布类型熵κ
j与条件确定指数三项之和,建立熵与相关结构的解析桥梁。2. 系统风险熵测度:总熵H(X)=H
v(X)?I(X),H
v表征系统极限混沌状态,I(X)表征元素间相依紧致程度,二者反向贡献使单一总熵风险分析缺乏信息量,故以向量(H
v,I)刻画系统行为。3. 相关关系分类测度:区分单个元素U与V间、元素U与集合X间、集合X内部交叉、多集合X
(l)间交叉四类相关,均给出高斯与非高斯情形的熵测度与相关指标解析表达式。4. 计算特性:高斯情形复杂度随变量数多项式增长;非参数算法总复杂度约O(nm
5),小样本下宜按中心极限定理采用高斯参数化。5. 数值示例一(单变量高斯层级系统):风险状态下第四层级Z
(4)分支及节点X
7(1)、X
8(1)的混沌度与依赖测度显著跃升,据此推断系统风险主因是X
7(1)与X
8(1)节点故障。6. 数值示例二(两维高斯随机向量节点):节点X
2(1)、X
3(1)方差与相关性增幅最大,牵动第二、第三分支及整个系统,判定主因在于其运行异常。7. 实证示例(德国宏观经济):八项指标划分为人口、经济、生活水平子系统构成两级层次系统;1991—2008年熵测度随两德统一后发展持续上升,2009—2016年全球金融危机致H
v、I(X)、H
d显著回落,2017—2021年再度回升,2022—2024年H
v、H
d续增而I(X)下降,呈由国际不稳定引发的随机趋势;熵生产ΔH=?1.67、ΔH
v=2.80、ΔH
d=2.79、ΔH
s=0.01、ΔI=0.75,表征德国宏观经济呈适度系统性发展,子系统X
(2)、X
(3)对不稳定期起始反应更快。
【讨论部分】论文指出风险分析应以监控形式开展,滑动窗口大小需在样本代表性与诊断及时性之间权衡:高频数据可用大窗口并倾向非高斯非参数变体,低频数据用仅略多于变量数的小窗口并倾向高斯参数化;滑动窗口虽只轻微改变样本,却能显著平滑小样本效应,使分析可行。作者建议引入阈值,可依据系统正常运行时熵指标统计结果设定,因系统性危机表现为多个元素、子系统与层级行为的同步改变,并给出德国宏观经济熵测度初步适宜范围:3≤H
v(X)≤5,7≤I(X)≤9,2≤H
d(X)≤4,H
s(X)≤1.5。
【研究结论翻译】本文提出一种用于诊断层次系统系统性风险的向量熵模型。该模型基于连续随机向量微分熵向混沌测度与依赖测度的分解,分别刻画系统的无序性与有序性性质;该分解适用于大范围的随机向量分布,并证明微分熵的变化与热力学第二定律的扩展形式相一致。文中考虑层次系统中所有基本相关关系变体,包括所有元素间的相互相关、不同层级子系统间相关以及单个元素与一组元素间的相关;在所有情形中均确立,相关指标可由视为随机向量的系统微分熵解析确定。高斯层次系统示例展示了利用该熵模型进行系统性风险监控的可能性。解析公式的简洁性使向量熵模型得以实际应用;所提方法不仅能够监控整个系统,还可仅监控其各个子系统。