《Risks》：Hyperparameters over Architecture: A Controlled Comparison of Neural Networks for Aggregate Loss Reserving
编辑推荐：
研究人员的目的是在匹配的数据、训练和评估协议下，比较用于聚合损失三角形（aggregate loss triangle）准备金评估的神经网络架构，并在数百次训练运行中将架构选择与超参数配置分离开来。研究人员将 DeepTriangle 框架的 GRU 基线模型
研究人员的目的是在匹配的数据、训练和评估协议下，比较用于聚合损失三角形（aggregate loss triangle）准备金评估的神经网络架构，并在数百次训练运行中将架构选择与超参数配置分离开来。研究人员将 DeepTriangle 框架的 GRU 基线模型与两个增强了注意力机制的变体进行比较，使用的数据来自 NAIC Schedule P 中的劳工补偿（Workers' Compensation）和私人乘用汽车保险（Private Passenger Auto），并报告了两个发现。首先，注意力机制并不能提高这些短三角形上的准备金评估准确性。两种注意力变体均表现出一种被研究人员称为“注意力崩溃”（attention collapse）的双峰训练不稳定性，其中相当一部分随机种子退化为简单的均值预测器，而一旦考虑完整的种子分布和事后存活过滤器，剩余的种子并不能可靠地优于基线模型。添加或移除填充掩码仅略微改变失败率，这表明该问题并非掩码错误，而是9个滞后期的聚合三角形中可用的跨位置信息有限。其次，超参数配置是准确性的主要驱动因素：在随机森林分解中，学习率获得了最大份额的基于不纯度的重要性（约46%），并且相对于链梯法（Chain–Ladder）而言，微调 GRU 基线模型比任何经过测试的架构变体都能获得更大的增益。经过微调的 GRU 基线模型仍然是聚合三角形准备金评估的推荐起点。
本文的研究背景聚焦于财产与意外伤害（P&C）保险中估计未决赔款负债的损失准备金评估这一核心任务。传统的基于发展三角形的聚合方法，尤其是链梯法被广泛使用，但这类经典方法在独立处理各公司的发展三角形时存在结构性局限，无法在不同公司间共享信息。随着深度学习的发展，Kuo提出的DeepTriangle框架利用门控循环单元（GRU）神经网络实现了跨公司联合训练并取得了优于传统方法的性能。在相邻领域，注意力机制已被证明能够提升个体索赔轨迹的预测效果，因此研究人员试图探究引入注意力机制能否同样改善聚合三角形准备金评估的准确性。然而，由于现有研究中架构选择、数据处理和评估设置差异巨大，难以识别性能差异是源于架构、超参数还是方法学，因此本研究旨在通过严格的控制对比提供首个协议匹配的评估，该论文发表在《Risks》期刊上。
在关键技术与样本来源方面，研究人员基于NAIC Schedule P的专有数据库，筛选了包含劳工补偿和私人乘用汽车保险两个险种的队列。研究采用了三种架构变体进行对比：深度Triangle框架的GRU基线模型，以及分别包含掩码与无掩码自注意力机制的增强变体。研究人员在固定超参数和随机搜索调优两种设置下进行了超过700次训练运行，使用了滚动起点的时序验证方法。模型采用掩码均方误差作为联合损失函数，并利用随机森林回归器来分解基于不纯度的特征重要性，以量化各超参数对预测准确性的影响。评估指标采用平均绝对百分比误差（MAPE），并使用Bonferroni校正的Welch t检验进行统计对比。
研究结果显示，在固定超参数对比阶段，GRU基线模型在两个险种中均表现出最低的MAPE均值和中位数，且方差最为紧密。相比之下，两种注意力变体均表现出明显的双峰不稳定分布，大量随机种子在训练中出现“注意力崩溃”，其测试误差退化为与简单均值预测器一致的水平。掩码与无掩码变体的崩溃率相似，表明不稳定性不是由掩码处理错误引起的，而是由于9滞后期短三角形中跨位置信息有限。事后存活分析表明，即使过滤掉崩溃的运行，注意力变体依然无法显著优于基线模型。
在超参数敏感性分析阶段，研究在WC险种的100种随机配置中展开。结果显示，最优配置将MAPE从固定超参数的9.82%降低至验证后的8.39%，相较于链梯法提升了21.8%。随机森林特征重要性分解表明，学习率（46.4%）和辍学率（26.7%）是主导准确性的核心因素，两者合计占据了超过73%的重要性。无论是通过基于不纯度的重要性评估还是排列重要性检验，甚至是从无模型的散点图观察，学习率和辍子率的梯度效应均远超GRU宽度、密集层宽度等架构参数。这证实了超参数微调比增加架构复杂性更具实际价值。
讨论部分指出，注意力机制在短聚合三角形上表现不佳的结构性原因是GRU编码器已具备充足容量来总结短序列，注意力层引入的复杂性并未带来可用的新信号。研究结论部分总结道，在经过超过700次训练运行后，增加注意力机制并未改善聚合三角形的准备金评估，而表现为“注意力崩溃”训练失败。相反，超参数配置，特别是学习率和辍学率，是MAPE性能变异的主导因素。因此，针对聚合三角形准备金评估，经过微调的简单GRU基线模型仍是推荐的出发点，在考虑增加任何架构复杂性之前，应优先针对各业务险种独立进行超参数微调；未来对于更长序列的个体索赔模型，注意力机制或全Transformer架构仍有探索空间。
