隐马尔可夫模型中的灵活单峰密度估计

《Methods in Ecology and Evolution》：Flexible unimodal density estimation in hidden Markov models

　　

隐马尔可夫模型（HMMs）是用于建模具有潜在状态结构的时序数据的强大工具。然而，为状态依赖分布选择合适的参数形式常常具有挑战性，并可能导致模型设定错误。为解决这一问题，研究人员提出了基于P样条（P-spline）的状态依赖密度非参数估计方法。尽管这些方法提供了极大的灵活性，但可能导致过度复杂的密度（例如双峰），从而阻碍可解释性。研究人员提出了一种基于形状约束样条理论的方法，通过强制样条系数的单峰性来确保估计的状态依赖密度具有单峰性。这一约束在模型灵活性、可解释性和简洁性之间取得了实际平衡。通过三项模拟研究以及一项使用独角鲸（Monodon monoceros）潜水数据的真实案例研究，研究人员证明了与完全灵活、无约束的模型相比，所提出的方法能产生更稳定的估计，从而提升模型性能与可解释性。该方法填补了一个关键的方法论空白，提供了一个简洁的HMM框架，平衡了参数模型的可解释性与非参数估计的灵活性。这一强大工具使研究人员能够从遥测数据中得出具有生态意义的推断，同时避免过度复杂模型的陷阱。

**论文解读：隐马尔可夫模型中的灵活单峰密度估计**

**研究背景与问题**

隐马尔可夫模型（HMMs）是分析具有潜在状态结构时序数据的流行框架，广泛应用于语音识别、金融、分子生物学和生态学等领域。在生态学中，HMMs常用于分析动物运动数据，以揭示狩猎策略、精细尺度栖息地选择和活动模式等行为信息。然而，传统HMMs依赖参数分布（如Gamma、正态、von Mises）来描述观测过程，这些参数假设往往不切实际，真实数据的状态依赖分布可能偏斜或重尾，导致模型拟合不佳、估计偏差和状态解码错误，最终得出错误结论。此外，模型选择方法（如Akaike信息准则）倾向于选择比实际需要更多的状态数，尤其是当数据不符合提议模型时，参数分布形状错误会进一步加剧这一问题。因此，有必要放弃参数假设，采用更灵活的密度估计方法。

已有研究提出基于惩罚B样条（P样条，P-spline）的非参数HMM估计，该方法提供了灵活性和数值稳定性，但也存在三个关键挑战：计算强度大、技术实现门槛高、以及过度灵活性可能导致过拟合，表现为估计的状态依赖密度出现不合理的多峰性。在生态学中，行为状态（如觅食与移动）通常最好由单峰分布表示，多峰性会模糊生物学解释。因此，本研究旨在克服非参数HMM的局限性，通过结合单峰性约束来保证状态依赖分布的现实单峰性，同时保持模型灵活性，从而获得更清晰的生物学模式解释。

**研究方法**

本研究由研究人员提出一种基于形状约束样条理论的方法，用于在HMMs中对状态依赖密度施加单峰性约束。主要关键技术方法包括：（1）使用P样条（P-spline）进行非参数密度估计，通过B样条基函数的线性组合表示状态依赖密度，并施加二阶差分惩罚以避免过拟合，平滑参数通过限制性最大似然（REML）自动选择；（2）通过强制B样条系数序列为单峰序列来确保密度函数的单峰性，利用惩罚函数将硬约束转化为软约束，从对数似然中减去惩罚项以实现高效计算；（3）方法实现于R包LaMa（Fischer, 2026）中，提供辅助函数用于设置基函数和惩罚项。案例研究数据来源于加拿大努纳武特地区Qikiqtaaluk（Baffin）区域的一只独角鲸（Monodon monoceros）的潜水数据，使用TDR10卫星发射标签记录，时间跨度2017年8月至11月，经预处理后提取每次潜水的最大深度（米）进行分析。

**研究结果**

**3.1 状态依赖分布的错误设定**
通过模拟生成来自2状态HMM的数据，其中状态1使用偏斜正态分布，状态2使用t分布，比较正确指定的参数模型、错误指定的参数模型（两状态均用正态分布）、无约束非参数模型和单峰约束非参数模型。结果显示，正确指定的参数模型表现良好，错误指定的参数模型表现差，而无约束和单峰约束非参数模型表现几乎相同，均能有效恢复发射分布，状态解码中位AUC均高于0.99。

**3.2 通过HSMM的状态过程错误设定**
模拟生成来自两状态隐半马尔可夫模型（HSMM）的数据，其中状态1的驻留时间分布为双峰混合移位泊松分布，状态2为几何分布，发射分布为广义Gamma分布。拟合参数Gamma HMM、无约束非参数HMM和单峰约束非参数HMM。结果表明，参数模型无法捕捉发射分布形状，无约束模型在状态2中100%估计出双峰状态依赖分布，而单峰约束模型从未出现双峰。在状态解码方面，单峰约束模型表现优于其他两种模型，AUC值更高，且对状态过程错误设定更具稳健性。错误分类比例平均为0.219（标准误0.069），优于参数模型的0.436（0.035）和无约束模型的0.302（0.079）。

**3.3 通过时间周期性的错误设定**
模拟生成具有周期性变化转移概率的HMM，发射分布为单峰，但拟合无约束齐次非参数HMM。结果显示，85%的模拟中状态2的估计密度出现双峰，8%的模拟中状态1的估计密度出现双峰，表明多种状态过程错误设定均可导致非参数HMM中错误的多峰性，从而支持使用单峰性惩罚。

**4 案例研究：独角鲸潜水数据**
对独角鲸的最大潜水深度数据拟合3状态Gamma HMM、无约束非参数HMM和单峰约束非参数HMM。参数模型无法将潜水状态清晰分离为浅、中、深三种行为，状态重叠严重。无约束非参数模型在状态2中估计出双峰分布，包含了浅潜水（20米）的虚假模式，导致状态2难以解释（包含极小、中等和极大观测值）。单峰约束非参数模型在拟合经验分布与状态分离之间取得良好平衡，三个状态被清晰解释为浅、中、深潜水，且解码状态序列更合理，估计行为转换次数为325次，高于参数模型（305次）和无约束模型（217次）。

**讨论与结论**

讨论部分指出，本研究开发了一种简单方法，在HMMs中对状态依赖密度的非参数估计施加单峰性约束。单峰P样条密度估计非常灵活，同时通过平滑惩罚和单峰性约束防止过度灵活性，后者能防止P样条错误捕捉虚假结构，维护生态可解释性。模拟研究表明，当真实数据来自HMM且发射密度为单峰时，施加单峰性几乎无损失；但当状态过程偏离马尔可夫假设时，施加单峰性可显著提升推断性能，因此该方法对状态过程错误设定具有稳健性。案例研究证明了该方法在实际应用中的优势，解决了参数模型和非参数模型在拟合与可解释性之间的权衡问题。研究人员建议分析流程：先拟合参数模型评估拟合，若拟合不佳则考虑非参数模型，若非参数模型出现多峰则使用单峰约束。未来研究方向包括改进模式自动检测的计算效率，以及将形状约束扩展到转移概率和状态依赖协变量函数中。

研究结论翻译：总体而言，研究人员的方法在灵活性、稳健性和可解释性之间提供了务实的平衡。这些特性使该方法对实践者特别有价值，提供了既可靠又易于在真实场景中应用的模型。