端到端轨迹生成：深度生成模型与语言模型的对比

《ACM Transactions on Spatial Algorithms and Systems》：End-to-end Trajectory Generation - Contrasting Deep Generative Models and Language Models

提出两种端到端轨迹生成方法：EETG-SVAE结合变分自编码器（VAE）与动态时空先验，通过分解全局语义（如通勤目的）和局部语义（如具体路径选择）并引入约束优化；EETG-LM采用语言模型架构，将轨迹建模为序列，利用自注意力机制隐式学习时空结构。实验表明，两方法在轨迹分布（MMD）、点密度（Heatmap）及时空约束（速度、转向角）上均优于现有规则模型（如Ditras）和简化深度模型（如SVAE-z）。

　　随着科技的发展，定位技术的进步使得我们能够收集到大量关于移动物体的数据，包括GPS轨迹、车辆车队的离散签到数据以及基于位置的服务数据。这些数据的广泛应用推动了时空数据挖掘、数据管理以及交通规划和城市分析等领域的研究进展。然而，由于实际大规模数据集的获取存在一定的限制，合成轨迹数据在这些研究领域中发挥着关键作用。现有的轨迹生成方法大多依赖于预定义的启发式规则，无法学习到轨迹生成过程中的未知机制。为了解决这些问题，本文提出了一种新的端到端轨迹生成方法，包括一种基于深度生成模型的EETG-SVAE框架和一种受语言模型启发的EETG-LM方法。

### 轨迹生成的挑战

轨迹生成面临几个主要挑战。首先，如何区分轨迹中的全局语义和局部语义是一个重要问题。全局语义指的是轨迹的整体目的，例如“通勤”、“在市中心漫步”或“机场接送”，而局部语义则涉及具体的路线选择和时间依赖关系。现有的方法在这一方面表现不佳，无法有效分离或建模这些语义。其次，缺乏能够处理轨迹不同部分之间相互依赖性的表达性先验，这使得生成模型难以捕捉轨迹的复杂结构。最后，生成轨迹需要满足一定的时空有效性约束，如几何约束、物理约束和社会约束，确保轨迹的合理性。这些约束使得生成模型在连续空间中保持合理的行为模式，而传统的深度模型由于假设连续分布，难以严格避免违反这些原则的情况。

### EETG-SVAE框架

为了解决上述问题，本文提出了EETG-SVAE框架，该框架基于变分自编码器（VAE）模型，通过引入动态先验来增强模型的表达能力。该框架的核心在于将轨迹分解为全局语义和局部语义，并通过动态先验来处理轨迹点之间的依赖关系。具体来说，EETG-SVAE模型包括三个主要部分：全局语义编码器、局部语义编码器和先验生成器。全局语义编码器负责从轨迹中提取整体目的，局部语义编码器则处理每个时间点的局部变化，而先验生成器则负责生成动态先验，以捕捉轨迹的时空变化模式。

此外，为了确保生成轨迹的时空有效性，本文引入了约束优化方法。通过将时空有效性约束转化为可学习的公式，并结合梯度下降技术，EETG-SVAE能够在训练过程中生成符合实际物理和地理规律的轨迹。实验结果显示，EETG-SVAE在多个指标上优于现有方法，包括平均距离误差（MDE）和最大均值差异（MMD）等。

### EETG-LM方法

另一种方法是基于语言模型的EETG-LM，该方法将轨迹视为句子，利用自注意力机制和位置嵌入来学习轨迹的分布。这种方法能够隐式地捕捉轨迹中的时空结构和嵌入语义，同时通过位置嵌入和自注意力机制来保持轨迹的连贯性和有效性。EETG-LM通过将连续的GPS坐标转换为离散的网格单元，确保生成轨迹符合地理约束。这种方法的优势在于其能够利用语言模型的自回归特性，生成符合实际行为模式的轨迹，同时保持对不同网格单元的适应性。

### 实验结果

为了验证所提出方法的有效性，本文在四个数据集上进行了实验，包括两个GPS出租车轨迹数据集和两个签到数据集。实验结果显示，EETG-SVAE和EETG-LM在多个指标上均优于传统方法，如基于规则的方法和简单的LSTM模型。特别是在MDE和MMD指标上，EETG-SVAE和EETG-LM表现出了显著的提升。此外，通过分析生成轨迹的点分布，可以发现EETG-SVAE和EETG-LM能够更准确地捕捉轨迹的时空特征，从而生成更符合实际的轨迹。

### 未来工作

本文提出的方法在轨迹生成领域具有重要的应用价值，但也存在一些需要进一步研究的问题。例如，如何更有效地整合显式的时空约束到语言模型中，以及如何提升模型的可解释性，使其能够更好地理解和模拟人类行为模式。此外，将这些方法应用于其他任务，如移动性挖掘、动物迁徙模式分析和体育数据分析，也是未来研究的一个重要方向。通过这些努力，我们可以进一步提升轨迹生成的质量和适用性，使其在更广泛的应用场景中发挥作用。