《The Aeronautical Journal》：Aircraft takeoff speed prediction with deep learning: a comparative study of MLP, 1D-CNN, LSTM and attention-based architectures on Boeing 737-300 data
编辑推荐：
现代航空支撑着日益广泛的民用和军事任务，为此设计的机体必须满足严格的安全与性能要求。起飞和着陆阶段是飞行中最易发生事故的部分，尽管它们仅占整个航班时间的一小段，这使得准确预测起飞速度成为一个与安全紧密相关的问题。此前一项机器学习研究采用经典回归器，以压力高度、
现代航空支撑着日益广泛的民用和军事任务，为此设计的机体必须满足严格的安全与性能要求。起飞和着陆阶段是飞行中最易发生事故的部分，尽管它们仅占整个航班时间的一小段，这使得准确预测起飞速度成为一个与安全紧密相关的问题。此前一项机器学习研究采用经典回归器，以压力高度、外部气温、总重和襟翼角为预测变量，解决了波音737-300的起飞速度预测问题。本研究在深度学习范式下重新审视了同一回归问题。四种神经架构在相同的预处理流程和训练-验证划分上进行了训练，即多层感知器（MLP）、一维卷积网络（1D-CNN）、长短期记忆网络（LSTM）以及融合多头自注意力的宽深架构（wide-and-deep architecture）。在这四个候选模型中，长短期记忆网络（LSTM）在未见测试集上获得了最低的均方根误差（RMSE）和均方误差（MSE），随后通过Keras Tuner库对其进行了贝叶斯超参数优化（Bayesian hyperparameter optimisation）。在深度学习文献中，研究人员首次将预测起飞速度与实测起飞速度并列报告，仿真结果表明，所开发的网络构成了一种有效的起飞速度预测替代工具。
**论文解读文章**
**研究背景**
现代航空支撑着日益广泛的民用与军事任务，所设计的机体必须满足严格的安全与性能要求。起飞和着陆阶段仅占航班总运行时间的一小段，却是飞行中最易发生事故的部分，因此准确预测起飞速度直接关系到飞行安全，成为一个关键的安全相关工程问题。此前，Karaburun等人（[参考Karaburun, Ark Hatipoglu and Konar26]）使用经典机器学习算法（如线性回归LR、支持向量回归SVR、分类与回归树CART、随机森林RF和极限梯度提升XGBoost）对波音737-300的起飞速度回归问题进行了研究，其中超参数优化的XGBoost取得了最低误差。然而，深度学习技术——当前航空人工智能（AI）领域的主流方法，能够捕捉飞行参数间的非线性交互——未被纳入该研究。目前，在公开文献中尚未有针对波音737-300起飞速度预测问题的多深度学习架构对比报道。本研究旨在填补这一空白，基于相同的预测变量（压力高度、外部气温、总重和襟翼角）和起飞速度目标，在深度学习范式下重新审视该问题，评估四种神经架构的性能，并验证深度学习模型作为起飞速度预测替代工具的有效性。该研究成果发表于《The Aeronautical Journal》。
**关键技术与方法**
研究人员使用了波音737-300飞机操作手册中的性能数据集（[6]），数据包含压力高度（ft）、外部气温（℉）、总重（klb）、襟翼角（°）和起飞速度（kn）五个变量，训练集含2690个有效样本，测试集含97个从未出现在训练集中的样本。关键技术方法包括：（1）数据预处理：使用Scikit-Learn的StandardScaler对每个预测变量和目标变量进行零均值和单位方差标准化，标准化统计量仅从训练集估计；将训练集按85%和15%随机划分为训练子集和验证子集（固定随机种子42）。（2）四种深度学习架构：多层感知器（MLP）——含ReLU激活、Dropout和L2权重衰减的全连接网络；一维卷积神经网络（1D-CNN）——将四维输入重塑为长度4的单通道信号，应用一维卷积层后接全局平均池化；长短期记忆网络（LSTM）——由两个堆叠LSTM层和一个密集输出层组成，用于捕捉相邻特征间的非线性交互；宽深架构（wide-and-deep with self-attention）——在深度分支中采用多头自注意力（multi-head self-attention）嵌入，宽度分支为原始输入的线性投影，两分支拼接后输出。（3）优化策略：所有模型训练时最小化均方误差（MSE）损失，采用Adam优化器（初始学习率10
-3），并应用早停（patience=40轮）和学习率缩减（验证损失停滞15轮后减半，最小学习率10
-5），批量大小64，最大轮次400。对表现最佳的基模型（LSTM）使用Keras Tuner库进行贝叶斯超参数优化（24次试验，验证MSE为目标），优化后的最终模型以扩展早停（patience=60轮）重新训练后评估。
**研究结果**
**4.0 仿真结果**
研究人员严格遵循问题定义中的实验方案，在标准化处理后的波音737-300数据上训练四种基模型，并在未见的97个测试样本上进行评估。
**基模型训练与损失曲线**
训练和验证损失曲线（图3）显示，四种模型单调收敛且验证损失紧跟随训练损失，表明正则化策略（Dropout、L2权重衰减、早停）有效防止了过拟合。
**基模型测试误差**
测试集上的均方根误差（RMSE）、均方误差（MSE）和平均绝对误差（MAE）见表4。MLP的误差最大，LSTM获得最小的RMSE（0.7745 kn）和MSE（0.5999 kn），1D-CNN的MAE略低于LSTM（0.4494 kn vs 0.4527 kn），且两者RMSE均低于0.8 kn，非常接近。宽深自注意力模型的RMSE介于MLP和1D-CNN之间。基于这些结果，LSTM被选为超参数优化对象。
**预测值与实测值对比及残差分析**
图4至7展示了各基模型的实际起飞速度与预测起飞速度散点图。MLP在高速端（约>140 kn）偏离恒等线较明显，而1D-CNN和LSTM的散点紧密对齐恒等线，宽深模型略分散。图8的残差图显示，大多数残差集中在±1.5 kn带内，无显著偏倚；少量较大残差出现在高温、高重量的运行包线角落（如148℉和155℉），这些是模型需要外推的点。
**贝叶斯超参数优化后的LSTM模型**
通过Keras Tuner进行24次贝叶斯超参数优化，最佳超参数组合（表5）选择了更紧凑的循环拓扑：LSTM-1/LSTM-2宽度均为32，密集头单元16，无Dropout，Adam学习率0.01。但优化后的LSTM在测试集上的RMSE（0.8164 kn）、MSE（0.6665 kn）和MAE（0.4772 kn）略高于基LSTM（0.7745 kn, 0.5999 kn, 0.4527 kn）。研究人员认为验证到测试的差距源于三个因素：验证子集与测试集分布不同（测试集包含训练集高温尾端之外的样本）、高学习率（0.01）结合无Dropout导致优化轨迹对噪声敏感、搜索预算有限（24次单一试验）。尽管如此，1D-CNN、基LSTM和优化LSTM的测试RMSE均处于0.77-0.82 kn的紧邻范围，表明四个物理预测变量已设定实用误差下限。
**与经典机器学习的对比**
表7将优化后的LSTM与Karaburun等人[26]的经典模型结果进行了指示性比较（注意前者在独立的未见测试文件上评估，后者在70/30随机内部分割上评估）。优化LSTM的RMSE与最佳经典模型（XGBoost）相当，且显著低于LR和SVR。深度模型的MAE虽高于CART和RF（约0.1 kn），但残差分布更均匀。这表明在低维表格回归问题上，梯度提升树集成仍然有效，而深度学习在需要外推时具有竞争力。
**讨论与结论部分**
**总结讨论**
研究人员指出，所开发的深度学习模型在波音737-300起飞速度预测中取得了良好的泛化性能，测试误差反映了正常运行条件下的表现。模型对显式包线外样本（如148℉和155℉）的预测残差保持在±1.5 kn带内，体现了适度外推下的优雅退化。管道设计确保了无测试泄漏（测试文件与训练文件分离、标准化统计量仅从训练集估计、早停和学习率调整仅基于验证子集）。但需明确范围限制：训练数据来自无噪声的图表手册，仅限于单一机体家族和四个物理预测变量，直接迁移到其他机型或运行QAR数据需领域适配或重新训练。未来工作可探索混合CNN-LSTM、门控循环单元（GRU）变体、扩展至完整起飞轨迹的QAR序列输入、将LSTM导出为TensorFlow Lite以实现在嵌入式平台（如NVIDIA Jetson）上的实时推理，以及将该管道迁移至其他暴露相同预测变量的机体手册。
**研究结论翻译**
现代航空的持续进步不断交付尺寸和性能各异的机体，以满足日益扩大的民用和军事任务目录，每个新设计的安全认证在很大程度上受安全与性能驱动要求的支配。在影响空中安全的众多因素中，起飞和着陆阶段被公认为飞行中事故率最高的部分，因此在这些短暂窗口中维持的速度裕度必须高精度控制。准确预测商用运输机的起飞速度，就此而言，是一个关键的安全工程问题。本研究直接建立在Karaburun、Ark Hatipo?lu和Konar [26]的经典机器学习研究以及Konar和Ba???早期基于模糊逻辑和ANFIS从飞行数据估计航空速度参数的工作[11,12]之上，将波音737-300的起飞速度预测问题拓展至深度学习领域。在相同条件下训练了四种神经架构：多层感知器、一维卷积网络、LSTM网络和多头自注意力增强的宽深网络。始终保留相同的四个物理预测变量（压力高度、外部气温、总重和襟翼角）和相同的起飞速度目标，并对所有四种基模型应用相同的预处理流程、训练-验证划分和训练回调配置，以确保所得指标的差异可归因于架构本身。当对比四种基模型的测试误差时，LSTM网络在RMSE和MSE上最低。1D-CNN在RMSE上与LSTM基本持平，宽深自注意力网络在此低维表格回归任务上未显示出优于更简单的循环和卷积模型的明显优势，而MLP的误差最大。因此，LSTM被选为通过Keras Tuner进行贝叶斯超参数优化的对象，优化收敛至略紧凑的循环拓扑。优化后的模型在测试集上的误差与基LSTM非常接近，表明循环基线已接近四个可用预测变量所能达到的实际性能上限。将优化后的LSTM与先前研究[26]报道的经典机器学习基线进行直接比较，表明深度学习模型的RMSE与最优树集成相当，且显著低于LR和SVR。据研究人员所知，这些深度学习结果为波音737-300起飞速度预测问题构成了首个公开基准，并支持所开发网络作为一种实用的决策支持工具，与现有手动查阅程序协同使用。报告指标应在本研究的明确范围内解读。训练语料源自制造商图表手册[6]，因此本质无噪声，四个物理预测变量仅捕捉了起飞速度的主要贡献因素。测试文件包含少量高温角落的显式包线外样本，其上残差保持在±1.5 kn带内，而大部分测试记录位于训练包线的中央区域。将训练网络迁移至不同机体家族或运行QAR流需要领域适配或在新语料上重新训练，当前测试误差不应外推到波音737-300手册运行包线之外。后续工作仍有多个开放方向：可评估混合CNN-LSTM组合[24]和门控循环单元变体[42]作为替代循环骨干，回归目标可从单一起飞速度点扩展至全起飞轨迹（通过馈入QAR流[9,18]）。从部署角度看，训练后的LSTM可导出为TensorFlow Lite[40]并移植到嵌入式计算平台（如NVIDIA Jetson），以实现无人机和通用航空安全监控的机载实时推理[20,21]。最后，该管道可迁移至操作手册暴露相同四个预测变量的其他机体系列。
