FTT-Transformer：一种结合多头自注意力机制的特征 - 时间标记化油田生产预测方法

《Applied Sciences》：FTT-Transformer: A Feature-Time Tokenization Approach with Multi-Head Self-Attention for Oilfield Production Forecasting

　　

摘要

油田生产预测是月度产量分配和注采系统优化的决策基础。现有的主流预测方法面临重大局限：Arps 递减曲线外推历史生产趋势，但在调整注采制度后，其精度迅速下降；诸如 XGBoost 等机器学习方法能够利用广泛的动态数据，但严重依赖人工特征工程，且决策可解释性有限。本文提出了 FTT-Transformer 预测模型，其核心创新在于特征 - 时间令牌化器（FTT）。FTT 将多元时间序列矩阵中的每个标量对（时间步、特征）投影为维度统一的令牌，并叠加三种位置信息——时间嵌入、特征嵌入和全局位置编码。在此基础上，多头自注意力机制对时间和特征维度的非线性交互进行端到端、全容量的学习。该模型轻量化，仅需 35,361 个参数即可处理 13 个输入特征，且易于部署。验证工作使用了两个独立注水油田的生产数据。在数据集 2（60 口井，2012–2026 年）上，该模型达到了 0.819 的 R²，性能与 XGBoost（0.813；DM 检验 p = 0.620，表明无统计学显著差异）相当，并显著优于时间 Transformer 基线模型 PatchTST（R² = 0.683）和 iTransformer（R² = 0.786）。在数据集 1（96 口井）上，它达到了 0.930 的 R²，与 XGBoost 的 0.943 在统计学上无显著差异（DM 检验 p = 0.611）。五折时间交叉验证得出的平均 R² 为 0.840 ± 0.036，证实了模型的稳定性。消融实验表明，全局位置编码的贡献最为显著，在数据集 2 上移除该编码会导致 R² 下降 3.9 个百分点。复合特征重要性分析显示，模型将月度液产量和含水率识别为两个最具预测力的特征，分别贡献了 31.93% 和 30.17% 的总重要性。多步预测结果表明，模型在提前两个月预测时仍保持 0.640 的 R²，涵盖了一个完整的月度产量再分配决策周期。所提出的架构并非特定领域专用；通过调整特征嵌入和时间编码，它有望扩展到多种多元时间序列预测应用。然而，跨领域验证仍是未来的工作。