一种用于求解广义最小信息棋盘copula问题的迭代I-投影算法

《Journal of Multivariate Analysis》:An iterated I-projection procedure for solving the generalized minimum information checkerboard copula problem

【字体: 大 中 小 】 时间:2026年08月29日 来源:Journal of Multivariate Analysis 1.6

编辑推荐:

  摘要 Meeuwissen和Bedford(1997)首次提出的最小信息copula原理是一种类似最大熵的方法,用于寻找最不具信息量的copula(如果存在的话),该copula需要满足从领域知识或可用数据中指定的某些期望约束。我们首先提出了这一原理的泛化版本,允许改变参考cop

  摘要
Meeuwissen和Bedford(1997)首次提出的最小信息copula原理是一种类似最大熵的方法,用于寻找最不具信息量的copula(如果存在的话),该copula需要满足从领域知识或可用数据中指定的某些期望约束。我们首先提出了这一原理的泛化版本,允许改变参考copula并添加额外的约束来固定copula的某些高阶边际。接下来我们证明,在一个自然条件下,相关的优化问题有一个唯一解。由于这个问题通常难以解决,我们考虑将其所有涉及的概率测度都替换为棋盘格近似的形式。这相当于尝试解决所谓的离散??-投影线性问题。然后我们利用Csiszár(1975)的开创性结果,推导出解决该问题的迭代程序,并为其收敛性提供理论保证。最后,通过数值实验(维度最高为4,且离散化程度比文献中考虑的要细得多)展示了该程序的实用性。

引言
设??≥2,??=(??1,…,????)是一个感兴趣的随机向量,其??维分布函数(d.f.)??被假设为连续的。在许多领域,如环境建模(Salvadori等人,2007)、定量风险管理(McNeil等人,2015)或计量经济建模(Patton,2012),人们希望对??进行建模。通常情况下,从业者会对如何对??的单变量边际??1,…,????进行建模有一定的了解。根据Sklar(1959)的著名工作,要完成??的建模,只需对唯一的copula ??进行建模——即??在[0,1]??上的限制,??可以表示为???(??)=???(??1?(??1),…,?????(????)),??∈???。从??的现有实现中估计??的问题在文献中已经得到了广泛研究(参见例如Hofert等人,2018年第4章及其参考文献)。本文关注的是无法或难以对??进行统计建模的情况。例如,当??1,…,????没有同时观测到时,就不存在??=(??1,…,????)的实现。

示例1
我们通过考虑定量风险管理领域来说明后一种情况。在这个领域中,??1,…,????可以代表金融机构的??种类型的损失。由于不同类型的损失不一定能同时观测到,因此在实际应用中可能没有??的实现数据。然而,通常可以从??的每个组成部分获得实现数据,从而估计出??的单变量边际分布。也有可能同时观测到??的某些成对或三个组成部分的数据,从而可以估计出相应的低维分布。□

当??=2且无法对??进行“经典”的统计建模时,Meeuwissen和Bedford(1997)以及Bedford和Wilson(2014)建议通过一种类似最大熵的方法来确定??(Jaynes,1957),他们称之为最小信息copula原理。非正式地说,这个想法是找到最不具信息量的双变量copula(如果存在的话),该copula需要满足从领域知识或可用有限数据中指定的某些期望约束。一个典型的约束是固定Spearman的rho值(Meeuwissen和Bedford,1997)。

让我们提出最小信息copula原理的??维版本。设??(???)表示????上的概率测度集合。按照03log??0的约定,对于任何??,??∈??(???),定义???(??3||??)为{∫???????log?????d??,如果?????,否则为∞,其中?????表示??相对于??是绝对连续的,????是??相对于??的Radon–Nikodym导数,即????=d??/d??。量???(??3||??)在经典上被称为Kullback–Leibler散度、信息散度或??相对于??的相对熵。注意,即使?????,???(??3||??)也可能等于∞(参见例如Polyanskiy和Wu,2024年第2.1节)。然而,当??的支撑集是有限的时,???(??3||??)<∞当且仅当?????。

继续讨论,对于任何严格正整数??,[??]表示{1,…,??}。此外,对于任何??∈??(???),设??({1}),…,??({??})为其单变量边际,即在??(?)中由??({?})?(??)????({??∈???:???∈??}),??∈??,?∈[??)定义的概率测度。现在,设??([0,1]??)是??(???)的子集,包含支撑集在[0,1]??内的概率测度,设???([0,1]??)是??([0,1]??)的子集,包含对应于??维copula的概率测度(根据Li等人(1998)和Durante和Sempi(2015,第3.1节)的称呼,这些概率测度也被称为??-随机测度),设????∈???([0,1]??)是[0,1]??上均匀分布的概率测度。注意,????的copula是所谓的??维独立copula,任何??∈???([0,1]??)都满足??({?})=??({?})??=??1,?∈[??],其中??1是单变量标准均匀分布的概率测度。设??1,…,????是在[0,1]??上的??≥1个连续函数,设??1,…,????∈?。使用上述符号,Bedford和Wilson(2014)研究的??维最小信息copula问题为:min??∈???([0,1]??)????(??3||????),受限于∫[0,1]???????(??)?d??2(??)=????,??∈[??]。

大致来说,问题(2)旨在找到与独立copula最接近的copula(就Kullback–Leibler散度而言),如果存在的话,同时满足??个期望约束。等价地,它旨在找到满足??个期望约束的最大熵(即“最不具特定性的”)copula,如果存在的话。顺便提一下,类似的问题也出现在当施加额外线性约束的熵规则化最优运输问题中(参见例如Zaev,2015;Eckstein和Kupper,2021;von Lindheim和Steidl,2023)。这将在后续的注释2中进一步讨论。

形式为(2)的最小信息copula问题已经由多位作者研究过。据我们所知,唯一的??维研究是Piantadosi等人(2012)和Borwein和Howlett(2019)。Piantadosi等人(2012)考虑了(2)中的??个期望约束对应于固定(????,????)的??3(???1)/2 Spearman相关系数的情况,1≤??
这项工作的第一个贡献是提出了(2)中更一般的最小信息copula问题版本,允许添加固定copula某些高阶边际的额外约束,并且可以将????替换为另一个与应用相关的概率测度(例如参见示例2)。第二个贡献是明确说明了导致其棋盘格版本的所有步骤。正如我们将在第3节中看到的,得到的广义最小信息棋盘格copula问题可以进一步重新表述为所谓的离散??-投影线性问题,其中“??-投影”的表达方式遵循Csiszár(1975)的开创性工作。然后,这项工作的主要贡献是提出了一个迭代??-投影程序来解决后者。所提出的程序中的??-投影包括经典的单变量缩放(例如在众所周知的迭代比例拟合程序中看到的,参见例如Kruithof,1937;Deming和Stephan,1940;Knight,2008;Brossard和Leuridan,2018;Barthélemy和Suesse,2018)——也称为计算最优运输中的Sinkhorn–Knopp算法(参见例如Peyré和Cuturi,2019)——或针对每个期望约束的特定(近似)??-投影(如果有的话)。后者通过广义迭代缩放(参见例如Darroch,1972;Csiszár,1989)或使用可能的新结果(见命题3)来进行。形式(2)的最小信息copula问题在实践中得到了验证。我们的数值实验(其中??∈{2,3,4})表明,所提出的算法方法可以用来近似解决问题(2)的棋盘格版本,其离散化程度比例如Piantadosi等人(2012)和Borwein和Howlett(2019)考虑的要细得多。

本工作的概述如下。第2节正式定义了概率测度的高阶边际、概率和copula数组、??-随机测度的棋盘格近似以及??-投影。第三节提出了最小信息copula问题的更一般版本,证明了在自然条件下它有一个唯一解,研究了其棋盘格版本,并验证后者是一个众所周知的问题的特例,该问题旨在尝试将具有有限支撑集的概率测度??-投影到所谓的线性概率测度族上(参见例如Csiszár,1975;Csiszár和Shields,2004)。第4节则利用Csiszár(1975)和Csiszár(1989)的开创性结果,推导出解决所研究的广义最小信息棋盘格问题的迭代??-投影程序。得到的算法在精神上类似于Byrne(1998)在图像处理中使用的RBI-SMART算法(也参见von Lindheim和Steidl,2023第3节)。通过大量数值实验(其中一些在补充材料(Kojadinovic和Martini,2026)中报告)展示了该程序的实用性,这些实验与所谓的边际兼容性问题有关(参见例如Rüschendorf,1991;Joe,1997;Durante等人,2008;Fritz和Chaves,2013及其参考文献)。我们最后提到了考虑方法的几种可能的扩展。

初步说明
为了进行承诺的推导,我们首先需要引入额外的符号和定义。这些与概率测度的高阶边际、概率数组和copula数组、??-随机测度的棋盘格近似以及??-投影有关。

广义最小信息copula问题及其棋盘格近似
本节的目的是介绍和研究最小信息copula问题及其棋盘格版本的泛化。我们首先明确陈述了Piantadosi等人(2012)研究的(2)中最小信息copula问题的版本。然后我们提出了这个问题的更一般版本,并提供了在其有唯一解的条件。接下来,由于上述问题通常难以解决,我们考虑了包含所有这些条件的版本。

通过迭代??-投影程序解决广义最小信息棋盘格copula问题
从第3.4节我们知道,(17)中的广义最小信息棋盘格copula问题可以紧凑地写为min??∈?????(??3||??),其中?在(24)中定义,??∈????,??是ˇ??∈ˇ????2([0,1]??)的骨架。如其中解释的,我们希望在条件1下解决这个问题,根据命题2和定义2,这相当于找到??在?上的??-投影??。根据第3.5节的内容,min??∈?????(???︰︰??)是离散??-投影的一个特例。为了说明前一节的结果,我们将其应用于尝试近似解决公式(17)中的广义最小信息棋盘copula问题:1. ˇ??=ˇ????=????,其中????是区间[0,1]上的均匀分布的概率测度;2. 如果??≠0?,则所有??∈??的基数均为2,并且所有函数????都等于与Spearman’s rho相关的函数??(见公式(9))。在第1点所做选择的情况下,解决公式(17)可以理解为应用最大熵原理。最后,我们对这项工作的可能扩展提出三点简要评论:• 第4节中提出的算法方法用于尝试解决广义最小信息棋盘copula问题,该方法是基于基础棋盘概率测度的“骨架”来工作的。这些概率数组也是Geenens(2020年)首次提出的所谓离散copula方法的核心,并在Kojadinovic和Martini(2024年)以及Geenens等人的研究中进一步探讨。感谢一位副编辑和两位匿名审稿人对本手稿早期版本的建设性评论。作者:Ivan Kojadinovic | Tommaso Martini
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号