F2V-Former：基于静态属性引导的船队至船舶迁移学习的集装箱船舶燃料消耗预测

《TRANSPORTATION RESEARCH PART C-EMERGING TECHNOLOGIES》：F2V-Former: Fleet-to-vessel transfer learning guided by static attributes for container vessel fuel consumption prediction

　　

• 统一的车队到船舶迁移学习框架。
• 整合船舶静态规格与动态航次序列。
• 静态引导的条件层归一化与交叉注意力机制。
• 基于低秩适配的高效少样本微调。
• 无需针对特定船舶微调即可实现14%的MAPE。

1. 引言

航运业在国际货物运输中发挥着关键作用，支撑了全球近80%的贸易，是現代供應鏈的基礎，據聯合國貿易和發展會議（UNCTAD, 2022）报告。与此同时，UNCTAD（2025）报告指出，海运业在持续扩张，全球船队运力在过去几十年中呈现出持续增长的趋势。在此背景下，由于航运业持续依赖以化石燃料为动力的船舶，也成为温室气体（GHG）排放和空气污染物的主要来源之一。为应对日益增长的温室气体排放问题，国际海事组织（IMO）已引入了标准化的能效基准和年度排放目标（Organization, 2022），包括现有船舶能效指数（EEXI）和碳强度指标（CII），以促进节能运营并加速向净零排放的转型。

为遵守这些法规，航运公司必须量化、监控和报告其船队的排放表现，并制定运营和战略调整计划以满足年度目标。实现这些目标需要能够在不同条件下估计当前排放量和预测未来排放量的能力。由于碳排放量与每日燃料消耗量直接成正比，因此燃料消耗预测为持续监控排放、预测船队扩张的未来能耗以及支持制定有效的绿色转型战略提供了可行且具有可扩展性的基础。在实践中，许多航运公司使用闭合公式来预测燃料消耗，例如基于立方定律的公式（Adland等, 2020）、技术报告（International Maritime Organization, 2020）以及船舶推进基本原理（MAN Energy Solutions, 2018）。然而，这些传统方法可能难以充分捕捉现实运营中的复杂动态，因为它们主要关注航行速度和吃水深度，而忽略了风、浪和洋流等其他变量。与此同时，这些估计方法可能无法保留单船的具体特征，因为闭合公式通常假设姊妹船具有同质化的性能表现。

解决此问题的一个方案是利用每艘船的历史数据为其构建数据驱动模型。在拥有此类运营记录的情况下，使用机器学习（ML）模型来量化这些变量与船舶燃料消耗之间的内在关系是可行的，并且可能更加可靠。近期的研究探讨了用于船舶燃料消耗估计的各种预测模型（Chen等, 2025, Uyan?k等, 2020, Yan等, 2021）。这些现有工作主要采用逐船建模策略，为每艘特定船舶构建独立的模型。然而，这种方法可能导致两个局限性。一方面，单船的训练数据不足。在实践中，燃料消耗主要通过午报进行记录。这些午报是每日运营日志，汇总了关键航行条件，包括速度、距离、天气状况和燃料使用情况。尽管午报在业界和学术研究中均作为标准数据源使用（Kim等, 2025），但其低记录频率——通常每天仅记录一次——严重限制了每艘船所能提供的训练样本数量。因此，先前关于船舶燃料消耗预测的工作强调选择鲁棒模型和控制模型复杂度，因为在数据稀缺的情况下，更复杂的算法容易遭遇过拟合（Ahlgren等, 2019），从而可能降低预测精度。另一方面，逐船建模无法捕捉异质船队内的共享模式。虽然单船的运营记录数量存在差异且往往有限，但整个船队的记录总量足够丰富，可以训练更复杂的模型（Wang等, 2025）。忽略这种集体知识不仅限制了预测性能，还制约了泛化能力。此外，航运船队的动态更新十分常见，包括新造船的引入和经过大型坞修后重返运营的船舶。在这种情况下，这些目标船舶的历史记录稀缺甚至不可用，而简单地从姊妹船迁移模型或参数可能会引入显著偏差并导致精度下降。

因此，一个设计良好的车队到船舶迁移学习框架成为一种应对数据稀缺问题的有前景范式（Luo等, 2025, Sayed等, 2022）。该框架先在源域上利用多样化的船舶船队预训练一个通用模型，然后仅用少量记录针对此前未见过的目标船舶进行微调。通过利用各种运营条件下共享的知识，该框架能够提升预测性能并增强船队内的泛化能力。此外，该框架减少了对每艘船舶开发独立模型的工作量，提高了船队内的一致性，并实现了在目标船舶上的高效部署。遗憾的是，现有的燃料消耗预测迁移学习方法往往难以建立一个真正通用的模型，因为它们主要关注向相似吨位船舶的知识迁移（Luo等, 2025）。这一局限性源于缺乏船舶静态信息，如结构规格和运营概况，而这些信息对于刻画不同船舶之间的异质性至关重要。在没有明确纳入这些静态属性的情况下，统一的车队级模型可能无法充分区分个体船舶，从而难以提供准确的逐船预测。此外，当模型在少样本场景下针对目标船舶进行微调时，有限的数据量容易导致过拟合，从而影响微调模型的泛化性能。

本研究提出了F2V-Former，一个基于Transformer架构构建的通用车队到船舶迁移学习框架，集成了船舶静态属性与动态运营数据。具体而言，我们通过静态引导的条件层归一化和交叉注意力机制增强模型，在训练过程中将船舶特定的静态信息与时窗动态运营特征融合。通过明确纳入静态属性，统一模型能够更好地捕捉异质船队中的船舶特定特征。为实现高效的少样本适配，我们通过低秩适配对模型进行微调，使其能够仅从少量观测中进行高效更新，从而使框架适用于历史记录有限的目标船舶。本文的主要贡献总结如下：
• 我们提出了F2V-Former，一个基于Transformer架构构建的高效可扩展的车队到船舶迁移学习框架，它利用不同船舶容量之间的共享知识训练一个统一模型，而非单独的逐船建模。
• 我们设计了静态引导的条件层归一化和交叉注意力机制，将船舶静态属性与时窗运营特征整合为统一表示，使模型能够捕捉船舶间特征。
• 我们在模型微调过程中引入了低秩适配策略，有效缓解了少样本场景下过拟合的风险，并实现了从源船队到历史记录有限的同类目标船舶的稳定知识迁移。
• 我们在多艘船舶上进行了全面实验，在不同目标船舶数据可用性水平下验证了所提框架的有效性和可扩展性。

2. 文献综述

2.1. 逐船燃料消耗预测的预测模型

逐船燃料消耗预测在海运领域已有数十年的广泛研究。在早期研究中，研究者主要依赖力学和流体力学建立船舶特征与燃料消耗之间具有物理可解释性的关系（Holtrop和Mennen, 1982）。一种广泛使用的公式源自螺旋桨定律，该定律表明所需的推进功率，从而也是船舶燃料消耗量，大约与航行速度的立方成正比（Brown和Aldridge, 2019, MAN Energy Solutions, 2018）。由于其简单性，这种立方关系在文献中被广泛用作逐船燃料消耗估计的近似方法（Wang和Iris, 2025, Yao等, 2012）。然而，由于此类公式依赖于固定的理论规则，在复杂运营环境中其预测精度往往有限。例如，Adland等（2020）发现，这种立方关系主要适用于船舶在设计速度附近运行的情况，在慢速航行条件下可能会产生偏差估计。

为了获得更精确的船舶燃料消耗估计，许多研究将额外的解释因素纳入模型训练，包括船舶运营条件、发动机运行状态以及海况和天气条件。与此同时，随着大规模船舶运营数据的日益丰富，机器学习模型已成为预测船舶燃料消耗的强有力工具。现有研究调查了多种技术，包括多项式回归分析（Bialystocki和Konovessis, 2016, Uyan?k等, 2020）、支持向量回归（Yuksel等, 2023）、基于树的模型（Luo等, 2023, Yan等, 2020）、深度学习模型（Le等, 2020, Moreira等, 2021）以及时间序列模型（Liu等, 2024, Wang等, 2024）。

鉴于这种方法论多样性日益增长，若干研究进行了系统性比较，以在不同船舶和运营设置下评估模型性能。Zhu等（2021）报告称，在基于高频运营数据训练时，人工神经网络（ANN）优于其他机器学习模型。Chen等（2025）比较了传统机器学习基线与时间序列模型，包括RNN、LSTM和Transformer。使用从高频机载传感器收集的运营数据，结果表明基于Transformer的模型实现了最佳预测性能。然而，这些比较是在专用机载传感所支持的数据丰富条件下进行的，而这在船舶船队中并非普遍可用（Sharma等, 2025）。在实践中，许多船舶依赖午报和AIS数据（Kim等, 2025），其中燃料消耗数据通常不可用，只能通过间接方式推断。因此，数据稀缺仍然是单船建模实际应用中的关键挑战。

2.2. 数据稀缺条件下的船舶燃料消耗预测

近期研究提出了学习框架以在数据稀缺条件下提高船舶燃料消耗预测精度。一种常见方案是联邦学习，它从多艘船舶协同学习一个共享的全局模型，以解决数据稀缺问题同时保护数据隐私。与需要汇集原始数据的集中式方法不同，联邦学习聚合分布式客户端的模型更新（即参数或梯度），而不直接共享数据。这一机制使模型能够从虚拟扩展的数据集中学习，而无需访问敏感的原始记录。Giannopoulos等（2024）利用这种隐私保护框架从分布在多艘船舶和船队上的数据训练一个通用全局模型。通过将原始数据保留在本地并仅交换模型更新，该框架能够在数据所有权和保密性约束下实现跨船舶知识迁移，从而相较于单船预测提升了预测性能。Wang等（2025）提出了一种船舶映射框架，将具有相似运营特征的船舶进行聚类，并在每个聚类内应用联邦学习以学习共享的预测模型。这种方法使船舶能够通过联邦参数聚合受益于相似船舶所学习的知识，同时避免了集中化敏感运营数据的需求。尽管联邦学习能够在不共享数据的情况下实现协作学习，但它需要重复通信、同质的模型结构以及多艘船舶的同时参与，这限制了其在实际船队运营中的可扩展性。

迁移学习是另一种有效的策略，通过利用从数据丰富的源域学习的知识来增强数据受限的目标域中的预测性能。Luo等（2025）在八艘相似集装箱船之间迁移知识，使用七艘船作为源域、一艘作为目标域，表明利用车队级运营模式可以改进运营历史有限的新船的预测精度。除了从船队数据中学习之外，近期研究还调查了跨越不同粒度层级和数据模态的更广泛跨域迁移。Sharma等（2025）将基于高频机载传感器数据训练的模型迁移到低频午报数据上，应用于其他姊妹船和非姊妹船，实现了显著的误差降低。Mavroudis和Tinga（2025）利用基于物理仿真的合成数据预训练一个轴功率预测模型，随后将该模型迁移到仅拥有三次完整航次数据的化学品运输船上。

与联邦学习相比，迁移学习提供了一种更通信高效的方式来为数据稀缺的目标船舶开发准确的燃料消耗预测模型。然而，现有研究通常局限于相似吨位的船舶或仍采用逐船建模，缺乏可在实际中扩展到整个船队的可扩展框架。基于这一差距，我们的工作提出了一种创新的车队到船舶迁移策略，能够在不同吨位类别之间实现泛化。

3.

# 方法论

本节定义了数据稀缺条件下的燃油消耗预测问题，并提出了一种两阶段预训练与微调框架。第3.1节讨论了逐船建模的局限性以及从船队到单船的建模方式所带来的优势。为实现该方法，第3.2节介绍了在源船队上进行预训练的基于Transformer的统一预测模型的详细架构。最后，为使该统一模型适应特定的目标船舶，第3.3节提出了一种针对特定船舶的微调策略。

## 3.1. 从逐船建模到从船队到单船的建模

本研究致力于开发一种统一且可扩展的燃油消耗预测模型，适用于异构船舶船队，以便为每艘船舶提供可靠的燃油消耗估计值。在实际中，数据可用性极不均衡。部分长期服役的船舶积累了大量运营记录，而其他船舶，如新建船舶或经过重大干坞维修后重新投入运营的船舶，则面临数据稀缺的问题。这些挑战促使我们摒弃传统的逐船建模方式，转向从船队到单船的建模方式，如图1所示。


在本研究中，按照上述场景，我们将船舶船队 $V$ 划分为两个互斥子集：包含历史记录充足的船舶的源船队 $V_{src}$，以及表示观测数据有限的船舶的目标船队 $V_{tgt}$，即 $V_{src} \cap V_{tgt} = \emptyset$，$V_{src} \cup V_{tgt} = V$。在该设定下，每艘船舶 $v \in V$ 由一组静态特征 $s_v \in \mathbb{R}^m$（例如载重能力、服务航线）和一系列运营记录 $D_v := \{(\mathbf{x}_{v,t}, y_{v,t})\}_{t=1}^{T_v}$ 来表征，其中 $\mathbf{x}_{v,t} \in \mathbb{R}^k$ 表示时间周期 $t$ 时的动态特征；$y_{v,t} \in \mathbb{R}$ 表示对应的时间周期 $t$ 的燃油消耗率，定义为每小时消耗的燃油量，单位为吨/小时；$T_v$ 为船舶 $v$ 的可用记录数。为避免潜在的信息泄露，与燃油高度相关或事后变量不包含在动态变量 $\mathbf{x}_{v,t}$ 中。

根据 Chen 等人（2025）发现船舶燃油消耗具有强烈的时间依赖关系，并且可能取决于历史运营和环境状态，我们对每次燃油消耗预测使用滑动时间窗口生成动态输入。给定窗口长度 $w$，我们将窗口化动态输入定义为：

$$(1) \quad \mathbf{X}_{v,t}^{(w)} := [\mathbf{x}_{v,t-w+1}, \ldots, \mathbf{x}_{v,t}]^\top \in \mathbb{R}^{w \times k}$$

其中当 $w=1$ 时，退化为单步特征向量 $\mathbf{x}_{v,t}$。我们的主要目标是训练一个预测函数 $f$，使得 $\hat{y}_{v,t} = f(\mathbf{X}_{v,t}^{(w)}, s_v)$，该函数基于每艘目标船舶 $v \in V_{tgt}$ 的静态属性和有限的运营记录来估计其燃油消耗率。

在传统的逐船建模中，为每艘船舶 $v$ 使用其自身的历史数据 $D_v$ 分别训练一个预测器 $f_v$。在实践中，由于对于给定船舶其静态属性 $s_v$ 是恒定的，因此它们通常从训练输入中省略，$f_v$ 仅依赖于动态数据来预测燃油消耗，即 $\hat{y}_{v,t} = f_v(\mathbf{X}_{v,t}^{(w)})$。该方法对于 $V_{src}$ 中具有充足历史记录的船舶可以达到满意的精度。然而，对于 $V_{tgt}$ 中数据稀缺的目标船舶，该方法变得不可靠。由于针对特定船舶的模型必须在少量观测数据上训练，模型难以稳健地学习动态特征与燃油消耗之间的关系。因此，所学习的预测器仅覆盖有限的运行条件范围，且对噪声敏感，往往导致过拟合和对未见过的运营场景或环境变化泛化能力差。

受这些局限性的启发，为船舶船队建立统一模型 $f$ 可以提高数据效率和可扩展性。如图1所示，对于船队中的每艘船舶 $v$，静态属性 $s_v$ 和动态运营记录 $\mathbf{x}_{v,t}$ 均被纳入共享模型 $f$ 中，即 $\hat{y}_{v,t} = f(\mathbf{X}_{v,t}^{(w)}, s_v)$。统一的船队模型首先使用源域 $V_{src}$ 的数据进行预训练，通过汇总所有源船舶的样本。对于每艘目标船舶 $v \in V_{tgt}$，预训练后的模型可以直接部署进行零样本推理，并进一步通过针对特定船舶的微调进行适配。如果目标船舶的观测数据可用，则使用少量观测集合 $D_v$ 结合 $s_v$，通过少样本适配来更新模型。通过预训练和微调，从船队到单船的建模方式实现了从数据丰富的船舶到数据有限的船舶的高效且可扩展的知识迁移。

## 3.2. 从船队到单船的预测模型

在本小节中，F2V-Former 的详细结构在图2中展示。如图所示，我们采用基于Transformer的模型来捕捉时间依赖性。F2V-Former 由三个组件组成：(1) 输入编码层，将原始静态和动态数据投影到潜在特征空间；(2) $L$ 个条件Transformer块（CTB），旨在在静态属性的条件下从动态记录中捕捉时间依赖性，其中 $L$ 是超参数；(3) 交叉注意力机制，将学习到的时序表示与静态船舶嵌入进行融合以进行最终预测。为便于符号表示，船舶索引 $v$、时间窗口 $w$ 和预测时间索引 $t$ 在本节余下部分中被省略。每个实例表示为输入-输出对 $(\mathbf{X}, \mathbf{s}) \rightarrow y$，其中 $\mathbf{X} \in \mathbb{R}^{w \times k}$ 表示在预测日前 $w$ 天回看窗口内的每日动态特征（即 $\mathbf{X} = [\mathbf{x}_{t-w+1}, \ldots, \mathbf{x}_{t-1}, \mathbf{x}_t]^\top$），$\mathbf{s} \in \mathbb{R}^m$ 表示静态属性，$y \in \mathbb{R}$ 为观测到的船舶燃油消耗率。


### 3.2.1. 输入编码

在该框架中，窗口化动态输入 $\mathbf{X} \in \mathbb{R}^{w \times k}$ 和静态属性 $\mathbf{s} \in \mathbb{R}^m$ 通过各自的编码器嵌入为网络中的潜在特征。对于静态属性，我们使用投影矩阵 $W^{(s)}$ 获取 $h$ 维隐藏空间中的静态表示：

$$(2) \quad \mathbf{h}^{(s)} = \mathbf{s}^\top W^{(s)}, \quad W^{(s)} \in \mathbb{R}^{m \times h}$$

其中 $\mathbf{h}^{(s)} \in \mathbb{R}^h$。

对于动态序列 $\mathbf{X}$，我们使用可学习的线性投影矩阵 $W^{(d)}$ 将每条记录投影到 $h$ 维潜在空间：

$$(3) \quad \mathbf{H}^{(d)} = \mathbf{X} W^{(d)}, \quad W^{(d)} \in \mathbb{R}^{k \times h}$$

其中 $\mathbf{H}^{(d)} \in \mathbb{R}^{w \times h}$。

为了解决自注意力的排列不变性问题，我们引入正弦位置编码 Vaswani 等人（2017）来显式地将记录的时间顺序信息编码到输入序列中。设 $\mathbf{P} \in \mathbb{R}^{w \times h}$ 为位置编码矩阵。对于任意位置索引 $p \in \{0, \ldots, w-1\}$ 和频率索引 $i \in \{0, \ldots, h/2-1\}$（假设 $h$ 为偶数），设 $P_{p,j}$ 表示 $\mathbf{P}$ 中的 $(p, j)$ 元素，元素定义为正弦和余弦函数：

$$(4) \quad P_{p, 2i} = \sin\left(p \cdot 10000^{-2i/h}\right), \quad P_{p, 2i+1} = \cos\left(p \cdot 10000^{-2i/h}\right)$$

然后，在条件Transformer块之前，我们将位置编码矩阵添加到动态特征中：

$$(5) \quad \tilde{\mathbf{H}}^{(d)} = \mathbf{H}^{(d)} + \mathbf{P}$$

其中 $\tilde{\mathbf{H}}^{(d)} \in \mathbb{R}^{w \times h}$。所得的 $\tilde{\mathbf{H}}^{(d)}$ 和 $\mathbf{h}^{(s)}$ 分别作为编码后的动态序列和静态上下文，由后续模块进一步处理。

### 3.2.2. 静态引导的条件层归一化

在标准Transformer架构中，Transformer块由多头自注意力（MSA）机制和逐位置前馈网络（FFN）组成，每个组件都带有层归一化和残差连接（Vaswani 等人，2017）。在我们从船队到单船的迁移设置中，目标船舶表现出异构的运行条件，导致源船队与单个目标船舶之间不可避免地产生分布偏移。然而，标准层归一化对所有船舶使用相同的恒定缩放和平移参数，这限制了模型对特定船舶的适应能力（Xu 等人，2019）。为解决此问题，我们保留MSA和FFN子层的传统公式，同时通过条件层归一化（CLN）将静态船舶信息纳入模型。具体而言，CLN 在每个子层（MSA 和 FFN）之前，基于静态嵌入 $\mathbf{h}^{(s)}$ 对归一化进行调节。这种条件性的缩放和平移操作不仅通过将静态属性嵌入动态表示来帮助模型对特定船舶表现出不同的行为，还有助于模型避免过拟合。

如图3所示，CLN 动态地根据静态上下文生成逐元素的缩放和平移参数。形式上，该操作定义如下：

$$(6) \quad \text{CLN}(\tilde{\mathbf{H}}^{(d)} \mid \mathbf{h}^{(s)}) = \boldsymbol{\gamma}(\mathbf{h}^{(s)}) \odot \text{LN}(\tilde{\mathbf{H}}^{(d)}) + \boldsymbol{\beta}(\mathbf{h}^{(s)})$$

其中 $\odot$ 表示逐元素乘法，$\text{LN}(\tilde{\mathbf{H}}^{(d)})$ 是对 $\tilde{\mathbf{H}}^{(d)}$ 的第 $p$ 行独立应用的标准层归一化。具体而言，对于每个位置 $p \in \{0, \ldots, w-1\}$ 和特征索引 $j \in \{1, \ldots, h\}$，层归一化给定如下：

$$(7) \quad \text{LN}(\tilde{\mathbf{H}}^{(d)})_{p,j} = \frac{\tilde{H}^{(d)}_{p,j} - \mu_p}{\sigma_p + \epsilon}$$

其中 $\epsilon$ 是为数值稳定性设置的小常数。行的均值 $\mu_p$ 和标准差 $\sigma_p$ 按如下方式计算：

$$(8) \quad \mu_p := \frac{1}{h} \sum_{j=1}^{h} \tilde{H}^{(d)}_{p,j}$$

$$(9) \quad \sigma_p := \sqrt{\frac{1}{h} \sum_{j=1}^{h} (\tilde{H}^{(d)}_{p,j} - \mu_p)^2}$$

缩放向量 $\boldsymbol{\gamma}$ 和平移向量 $\boldsymbol{\beta}$ 通过可学习的投影从静态上下文生成：

$$(10) \quad \boldsymbol{\gamma}(\mathbf{h}^{(s)}) = \mathbf{h}^{(s)} W_\gamma + b_\gamma$$

$$(11) \quad \boldsymbol{\beta}(\mathbf{h}^{(s)}) = \mathbf{h}^{(s)} W_\beta + b_\beta$$

其中 $W_\gamma, W_\beta \in \mathbb{R}^{h \times h}$，$b_\gamma, b_\beta \in \mathbb{R}^h$。在 CLN 公式 (6) 中，$\boldsymbol{\gamma}(\mathbf{h}^{(s)})$ 和 $\boldsymbol{\beta}(\mathbf{h}^{(s)})$ 沿时间维度广播以匹配 $\tilde{\mathbf{H}}^{(d)} \in \mathbb{R}^{w \times h}$ 的形状，从而对动态窗口中的全部 $w$ 个位置应用相同的静态引导仿射参数。


使用条件层归一化后，我们遵循标准的 pre-norm Transformer 设计，其中每个子层之前是 CLN，之后是残差连接。给定动态特征 $\tilde{\mathbf{H}}^{(d)} \in \mathbb{R}^{w \times h}$ 和静态上下文 $\mathbf{h}^{(s)}$，我们通过自注意力和前馈子层更新隐藏状态如下：

$$(12) \quad \mathbf{H}' = \tilde{\mathbf{H}}^{(d)} + \text{MSA}(\text{CLN}(\tilde{\mathbf{H}}^{(d)} \mid \mathbf{h}^{(s)}))$$

$$(13) \quad \mathbf{H}^+ = \mathbf{H}' + \text{FFN}(\text{CLN}(\mathbf{H}' \mid \mathbf{h}^{(s)}))$$

其中 $\text{MSA}(\cdot)$ 和 $\text{FFN}(\cdot)$ 分别表示多头自注意力和逐位置前馈网络；$\mathbf{H}'$ 和 $\mathbf{H}^+$ 分别表示自注意力子层和前馈子层之后的隐藏状态。通过在注意力和前馈子层中设计基于静态嵌入的条件层归一化，该块将动态序列适配到船舶特定的属性上，在整个Transformer堆栈中有效地结合静态上下文。

### 3.2.3. 交叉注意力

尽管条件Transformer块通过自注意力捕捉时间窗口内的时间依赖关系，但目标燃油消耗率也受到船舶特定的静态属性的强烈影响。因此，我们引入了一种分组静态交叉注意力模块，使动态表示能够根据当前运营上下文检索静态信息。

图4展示了详细的静态引导交叉注意力框架。这种设计源于动态信息和静态信息在我们任务中的不对称角色。条件Transformer块产生的动态隐藏状态 $\mathbf{H}^+$ 捕捉了观测时间窗口上的时间依赖关系，并为当前运营状态提供了表示。因此，在交叉注意力模块中，使用动态表示来生成查询序列。同时，船舶特定的静态属性在整个动态时间窗口中保持不变，因此被用作交叉注意力模块中的静态记忆源。


由于交叉注意力建模查询序列和键值序列之间的逐标记交互，静态信息被组织为语义记忆标记的序列。具体而言，根据静态属性的物理和运营含义，我们将静态属性划分为四个语义一致的组。每个组通过投影矩阵 $W_g$ 编码为一个静态记忆标记。设 $s_g$ 为与组 $g$ 相关的静态特征向量。分组静态记忆序列构造如下：

$$(14) \quad \mathbf{h}^{(s)}_g = s_g^\top W_g, \quad g \in \{\text{type}, \text{capacity}, \text{engine}, \text{route}\}$$

$$(15) \quad \mathbf{S}^{(s)} = [\mathbf{h}^{(s)}_{\text{type}}; \mathbf{h}^{(s)}_{\text{capacity}}; \mathbf{h}^{(s)}_{\text{engine}}; \mathbf{h}^{(s)}_{\text{route}}] \in \mathbb{R}^{G \times h}, \quad G = 4$$

四个静态记忆标记分别代表与类型、载重能力、发动机和航线相关的静态上下文。对于第 $i$ 个注意力头，动态隐藏状态 $\mathbf{H}^+$ 和分组静态记忆序列 $\mathbf{S}^{(s)}$ 被投影到相应的查询、键和值空间：

$$(16) \quad \mathbf{Q}_i = \mathbf{H}^+ W_{CA}^{Q,i}$$

$$(17) \quad \mathbf{K}_i = \mathbf{S}^{(s)} W_{CA}^{K,i}$$

$$(18) \quad \mathbf{V}_i = \mathbf{S}^{(s)} W_{CA}^{V,i}$$

其中 $i = 1, \ldots, N_h$，$N_h$ 表示注意力头数量。$W_{CA}^{Q,i} \in \mathbb{R}^{h \times d_k}$，$W_{CA}^{K,i} \in \mathbb{R}^{h \times d_k}$，$W_{CA}^{V,i} \in \mathbb{R}^{h \times d_v}$ 是第 $i$ 个注意力头的可学习投影矩阵。第 $i$ 个头的注意力权重计算如下：

$$(19) \quad \mathbf{A}_i = \text{softmax}\left(\frac{\mathbf{Q}_i \mathbf{K}_i^\top}{\sqrt{d_k}}\right), \quad \mathbf{A}_i \in \mathbb{R}^{w \times G}$$

softmax 操作沿静态标记维度应用，使得每个动态时间位置关注 $G=4$ 个分组静态记忆标记。第 $i$ 个注意力头的输出通过对静态值标记应用注意力权重获得：

$$(20) \quad \mathbf{O}_i = \mathbf{A}_i \mathbf{V}_i, \quad \mathbf{O}_i \in \mathbb{R}^{w \times d_v}$$

所有注意力头的输出被拼接并投影回隐藏维度：

$$(21) \quad \mathbf{O}_{CA} = \text{Concat}(\mathbf{O}_1, \ldots, \mathbf{O}_{N_h}) W_{CA}^O$$

其中 $W_{CA}^O \in \mathbb{R}^{(N_h d_v) \times h}$ 为输出投影矩阵。在本研究中，我们设置 $d_k = d_v = h/N_h$，使得投影后的多头输出满足 $\mathbf{O}_{CA} \in \mathbb{R}^{w \times h}$。通过残差连接获得交叉注意力增强的动态表示：

$$(22) \quad \mathbf{Z} = \mathbf{H}^+ + \mathbf{O}_{CA}, \quad \mathbf{Z} \in \mathbb{R}^{w \times h}$$

在交叉注意力模块之后，我们对动态表示 $\mathbf{Z}$ 进行均值池化以获得 $\bar{z}$，将其汇总为适合预测单一燃油消耗率值的向量表示。随后，$\bar{z}$ 与全局静态上下文 $\mathbf{h}^{(s)}$ 进行拼接并通过多层感知机（MLP）来捕捉非线性静态-动态信息并生成最终预测 $\hat{y}$：

$$(23) \quad \bar{z} = \text{MeanPool}(\mathbf{Z}) \in \mathbb{R}^h$$

$$(24) \quad \hat{y} = \text{MLP}([\bar{z}; \mathbf{h}^{(s)}])$$

## 3.3. 微调

在源船队上进行预训练后，F2V-Former 被适配到 $V_{tgt}$ 中的每艘船舶，以在源船队与目标船舶之间的分布偏移下提高预测精度。由于目标船队 $V_{tgt}$ 中的船舶通常仅有少量带标签的观测数据，直接微调整个框架可能容易导致过拟合。为实现稳定的适配，我们采用 LoRA（Hu 等人，2022）作为参数高效微调策略。具体而言，对于预训练框架中具有权重 $W \in \mathbb{R}^{d_{out} \times d_{in}}$ 的预训练线性变换，LoRA 按如下方式更新参数：

$$(25) \quad W' = W + \Delta W, \quad \Delta W = \frac{\alpha}{r} B A$$

其中 $A \in \mathbb{R}^{r \times d_{in}}$ 和 $B \in \mathbb{R}^{d_{out} \times r}$ 为可训练矩阵，$r \ll \min(d_{in}, d_{out})$ 表示秩，$\alpha$ 为缩放因子。

对于目标船舶 $v$，$D_v = \{(\mathbf{X}_{v,t}^{(w)}, s_v), y_{v,t}\}_{t=1}^{T_v}$ 表示其少样本动态观测数据。

我们将?v表示为与船舶v相关的所有LoRA参数（即插入的{A, B}矩阵）的集合。给定在时期t的输入样本，船队到船舶的预测由预训练参数θ0加上?v产生：

(26) ?v,t = f((X(w)v,t, sv) | θ0, ?v)

船舶特定的适配器在观测值??v上最小化均方误差：

(27) L(?v) = 1/(Tv·Tv) Σ(t=1 to Tv) (yv,t - ?v,t)2

?v通过梯度下降以学习率η进行更新：

(28) ?v ← ?v - η??v L(?v)

## 4. 数值实验

本节我们评估F2V-Former框架的性能，并通过计算实验量化船队到船舶迁移框架的优势。算法使用Python实现，深度学习模型使用PyTorch 2.8.0实现（Paszke et al., 2019）。所有实验均在一台配备Apple M4芯片和48 GB内存的MacBook上进行。

### 4.1 数据描述

我们使用由一家领先航运公司提供的数据中的真实案例研究进行实验。案例研究聚焦于集装箱船队的建模，该船队包含170艘不同的船舶，运力范围为1000至22,000 TEU。

船舶特征总结在表1中。这些属性的选择基于其与船舶燃油消耗率的物理和运营相关性，并分为四类：类型、运力、发动机和航线（Fan et al., 2022）。类型特征描述船舶子类和设计代际。建造年份特征作为设计代际的指标，以及可能的与船体、螺旋桨和机械状况相关的年龄变化，这些变化可能增加阻力或降低推进效率。运力特征刻画船舶尺寸、装载状态、设计航速和能效，均可能影响水动力阻力和推进需求。发动机特征代表可用的发动机功率和燃油转换效率。航线特征描述船舶部署模式和计划运营强度，这些影响航行条件和相应的燃油消耗率。

**表1. 本研究中考虑的船舶静态属性**

| 符号 | 特征名称 | 含义 | 单位 | 类别 |
|------|----------|------|------|------|
| s1 | 船舶子类型代码 | 集装箱船类型中的子类 | – | 类型 |
| s2 | 建造年份 | 建造年份 | 年 | 类型 |
| s3 | DWT | 载重吨 | – | 运力 |
| s4 | 总吨位 | 总吨位 | – | 运力 |
| s5 | TEU运力 | 标称集装箱运力 | TEU | 运力 |
| s6 | 设计吃水 | 设计吃水 | m | 运力 |
| s7 | 设计服务航速 | 设计服务航速 | 节 | 运力 |
| s8 | 主发动机NCR | 主发动机额定连续功率 | kW | 发动机 |
| s9 | 主发动机MCR | 主发动机最大连续功率 | kW | 发动机 |
| s10 | 主发动机SFOC | 主发动机在最优工况点下的燃油消耗率 | g/kWh | 发动机 |
| s11 | 航线距离 | 一个完整航线周期的航行距离 | 海里(nm) | 航线 |
| s12 | 计划年航行距离 | 基于航线部署的标准年航行距离 | nm | 航线 |
| s13 | 年航行小时数 | 全年计划航行小时数 | h | 航线 |
| s14 | EEDI | 能效设计指数 | gCO2/吨·nm | 运力 |
| s15 | 航线 | 部署航线环路的分类标识符 | – | 航线 |

注：类别特征，如船舶子类型代码和航线，采用独热编码进行编码。Category列指示交叉注意力模块中使用的分组静态记忆令牌。

本研究使用的运营数据由合作航运公司收集的午夜报告记录组成。为确保预测设置不依赖于不可用的事后信息，我们排除了事后变量作为动态输入。例如，航行距离、自上次午夜以来的航行小时数和主发动机平均输出功率未被用作输入特征，因为这些变量只有在报告周期完成后才能观测到，且与燃油消耗高度相关。本研究中使用的最终动态特征集总结在表2中。各属性对燃油消耗的具体贡献在附录A中讨论。受三次方定律的启发，该定律表明推进功率（因而燃油消耗）大约与船舶航速的立方成正比（Brown and Aldridge, 2019），我们额外将航行航速的二次项和三次项作为输入特征。这些项显式编码了预期的速度-功率关系，帮助模型捕捉速度对消耗的非线性效应。

**表2. 本研究中考虑的动态运营特征**

| 符号 | 特征名称 | 含义 | 单位 |
|------|----------|------|------|
| x1 | 正午前吃水 | 正午时的前吃水 | m |
| x2 | 正午中吃水 | 正午时的中部吃水 | m |
| x3 | 正午后吃水 | 正午时的后吃水 | m |
| x4 | 航行航速 | 计划航行航速 | 节 |
| x5 | 风速 | 风速 | kn |
| x6 | 相对风向 | 相对风向 | deg |
| x7 | 涌浪高度 | 涌浪高度 | m |
| x8 | 相对涌浪方向 | 相对涌浪方向 | deg |
| x9 | 海浪高度 | 海浪高度 | m |
| x10 | 相对海浪方向 | 相对海浪方向 | deg |
| x11 | 报告日期 | 午夜报告日期（格式：DD/MM/YYYY） | – |
| y | 燃油消耗率 | 燃油消耗率（预测目标） | t/h |

注：报告日期特征被分解为日、月、年，然后使用正弦函数进行编码。方向变量也使用正弦函数进行编码。

由于特征尺度的异质性，使用原始输入可能会偏置模型优化，允许大数量级特征主导梯度更新。为增强训练稳定性，我们对静态向量??∈?^m和动态向量??∈?^k应用逐特征z-score标准化：

(29) s?i = (si - μs,i) / (σs,i + ?), i = 1, …, m

(30) x?j = (xj - μx,j) / (σx,j + ?), j = 1, …, k

其中si（xj）表示第i个（第j个）特征维度。μs,i（μx,j）和σs,i（σx,j）是训练集中对应第i个（第j个）特征所有观测值的均值和标准差，?是用于数值稳定性的小常数。标准化对每个特征独立进行。在训练和评估过程中，μ和σ从训练集中计算，并以相同的值应用于验证集和测试集。

图5展示了每小时燃油消耗率的分布。大多数观测值集中在约1至4吨/小时之间，表明目标值主要落在常规运营范围内。尽管分布轻微右偏，但高消耗率的观测值仍然有限，并不主导整体分布。因此，我们在原始燃油消耗率上直接训练和评估模型，不对目标变量进行任何标准化。

**图5. 船舶燃油消耗率分布**

### 4.2 数据处理与评估指标

本研究采用基于船舶实体和时间序列的分层数据划分策略，以确保严格的评估。遵循Rodrigue (2020)和UNCTAD (2024)的分类标准，船队首先被分为四类：支线及巴拿马型（<5,000 TEU）、后巴拿马型（5,000-10,000 TEU）、新巴拿马型（10,000-15,000 TEU）和超大型集装箱船（ULCV，>15,000 TEU）。然后我们采用分层抽样将独立船舶划分为三个独立子集：80%用于预训练（??src），20%用于目标船队（??tgt），后者进一步分为10%用于微调验证和10%用于测试。在预训练阶段，每艘船舶的运营记录按时间以8:2的比例划分为预训练和超参数调优两部分。在微调阶段，为模拟少样本测试场景，我们采用5折时间交叉验证来确定最佳微调超参数配置，然后再进行最终测试。数据划分的详细描述如图6所示。

**图6. 集装箱船队训练与评估的数据划分**

为评估所提模型的预测性能，我们采用三种标准评估指标：平均绝对误差（MAE）、均方根误差（RMSE）和平均绝对百分比误差（MAPE）。设N表示测试样本总数，yi和?i分别表示第i个样本的真值和预测值。这些指标的数学公式定义如下：

(31) MAE = (1/N) Σ(i=1 to N) |yi - ?i|

(32) RMSE = √((1/N) Σ(i=1 to N) (yi - ?i)2)

(33) MAPE = (1/N) Σ(i=1 to N) |(yi - ?i)/yi| × 100%

### 4.3 预测性能

在评估阶段，我们主要考虑两种实验设置：零样本预测和少样本预测。4.3.1节的零样本设置评估预训练的统一船队模型直接迁移到未见目标船舶的能力，而无需使用任何已标注的目标船舶燃油消耗记录进行微调。4.3.2节进一步考察在仅有少量目标船舶观测值可用于少样本微调时模型的适应性。整个框架的超参数通过网格搜索选取，并在附录B中展示。主实验中动态窗口长度设为w=14。

为评估不同网络架构之间的迁移学习性能，我们将我们的框架（F2V-Former）与三个船队到船舶基线进行比较：(1) 时序长短期记忆模型（LSTM, Zhang et al., 2024）；(2) 带有拼接动态和静态输入的多层感知机框架（MLP-concat, Le et al., 2020）；(3) 对动态和静态数据使用独立编码器的MLP框架（MLP-split），受先前关于动态和静态输入独立建模的工作启发（Min et al., 2024）。所有网络首先在源数据上预训练以建立统一基础，然后在特定船舶上使用LoRA在所有可用模块上进行微调。此外，在每个实验设置中，我们也包含相应的逐船舶建模作为非迁移基线进行比较。与使用汇集、聚类和姐妹船迁移策略的经典迁移学习基线的额外比较在附录C中提供。

#### 4.3.1 零样本预测性能

为评估我们提出框架的泛化能力，我们在不进行船舶特定微调的情况下评估其零样本预测性能，其中在源数据集上预训练的模型直接应用于目标船舶，而不进行任何目标船舶特定的微调或参数更新。在本研究中，"零样本"一词指的是不使用来自目标船舶的已标注燃油消耗率记录进行模型微调。这种零样本设置模拟了船队管理中的数据缺失场景，其中一艘新加入船队的船舶缺乏用于船舶特定模型训练的已标注历史燃油消耗记录。在这种情境下，预测完全依赖于从源船队学到的通用知识，目标船舶的静态属性和动态输入变量被直接用作预测的输入特征。

为全面评估模型性能，除船队到船舶基线外，我们还将F2V-Former与在特定船舶数据缺失时常用的三种传统逐船舶建模方法进行比较：(1) 在姐妹船数据上训练的人工神经网络（ANN）（Luo et al., 2025）；(2) 根据姐妹船午夜报告计算的历史平均估算（Historical Average）；以及(3) 基于组织(2020)标准经验公式的指南估算（Empirical Formula）。为确保研究结果的可重复性和统计可靠性，我们使用不同的随机种子重复了每个实验五次。对于五次独立生成的船舶划分，首先在船舶层级计算指标。报告的均值和标准差（Std.）是在所有船舶-划分组合上计算的。实验结果展示在表3中，所有结果以均值和标准差（Std.）的格式报告，以量化模型性能的稳定性。

**表3. 无船舶特定微调的零样本预测性能**

| 类别 | 模型 | MAE (均值/标准差) | RMSE (均值/标准差) | MAPE% (均值/标准差) |
|------|------|-------------------|---------------------|----------------------|
| 逐船舶建模 | ANN | 0.51/0.80 | 0.83/0.79 | 16.75/23.73 |
| | 历史平均 | 0.59/0.16 | 0.96/0.21 | 21.44/5.24 |
| | 经验公式 | 1.12/0.59 | 1.70/0.77 | 35.09/11.16 |
| 船队到船舶建模 | LSTM | 0.51/0.14 | 0.84/0.20 | 18.34/5.04 |
| | MLP-Concat | 0.47/0.12 | 0.79/0.19 | 15.76/1.97 |
| | MLP-Split | 0.45/0.12 | 0.77/0.18 | 14.86/2.11 |
| | F2V-Former | 0.41/0.12 | 0.68/0.17 | 13.82/2.34 |

表3展示了无船舶特定微调零样本预测性能的对比结果。F2V-Former在所有比较方法中取得了最佳预测精度，MAE、RMSE和MAPE值分别为0.41、0.68和13.82%。在传统逐船舶基线中，经验公式产生了更多的预测误差，MAE为1.12，表明在异质船队条件下，基于公式的估算不足以捕捉船舶特定的运营模式。历史平均基线提供了相对稳定但精度较低的估算，MAE为0.59。

在学习型模型中，船队到船舶方法总体上优于未进行船舶特定微调的逐船舶基线。这表明，当无目标船舶微调数据可用时，利用从源船队学到的共享知识具有优势。特别是，F2V-Former获得了最低的平均预测误差。这些结果表明，所提出的静态引导的船队到船舶框架能够为未见目标船舶提供准确且稳定的燃油消耗率预测。

#### 4.3.2 少样本预测性能

本节评估微调的有效性以及在少样本学习设置下所提框架对未见船舶的适应性。为确保公平比较，我们按时间顺序排列每个目标船舶的动态运营记录，并保留最后200个样本作为固定测试集。其余记录构成训练池，模拟船舶加入船队后数据积累的实操过程。具体来说，我们使用训练池中的前n个样本（n∈{10, 20, 100, 200, 500}）进行模型微调，然后在固定测试集上评估微调后的模型。这里，前n个样本指的是目标船舶积累足够有效记录以形成w天历史窗口后的前n个完整窗口化预测实例。因此，主要的10-shot和20-shot实验中不涉及动态输入窗口中的零填充。填充的影响在5.3节中进一步讨论。

在本对比研究中，我们评估了两种不同的建模范式。第一类包括船队到船舶框架（F2V-Former、LSTM、MLP-concat、MLP-split），它们在源船队上预训练，然后根据图1中描述的策略在目标船舶的有限n-shot样本上进行微调。

我们还将我们的模型与最先进的逐船建模方法进行了比较，包括线性回归（Adland等人，2020）、决策树（Vorkapi?等人，2024）、随机森林（Yan等人，2020）、XGBoost（Xie等人，2023）、多层感知机（MLP，Zhang等人，2024）以及标准Transformer（Vaswani等人，2017）。逐船基线模型针对目标集合????????中的每艘船分别使用有限的n-shot数据进行训练，并且无法利用来自船队的先验知识。MAE、RMSE和MAPE的实验结果汇总于表4、表5和表6中。

表4. 不同少样本设置下的MAE性能。

类别 | 模型 | 10-shot | 20-shot | 100-shot | 200-shot | 500-shot
---|---|---|---|---|---|---
| | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差
逐船建模 | 线性回归 | 2.21 | 2.91 | 2.50 | 2.26 | 1.00 | 0.63 | 0.77 | 0.69 | 0.56 | 0.15
| 决策树 | 0.93 | 0.40 | 0.87 | 0.39 | 0.63 | 0.23 | 0.59 | 0.20 | 0.55 | 0.20
| 随机森林 | 0.81 | 0.31 | 0.75 | 0.32 | 0.52 | 0.17 | 0.50 | 0.20 | 0.46 | 0.18
| XGBoost | 0.80 | 0.31 | 0.79 | 0.45 | 0.55 | 0.19 | 0.49 | 0.16 | 0.41 | 0.15
| MLP | 1.03 | 0.48 | 0.96 | 0.42 | 0.69 | 0.23 | 0.57 | 0.17 | 0.46 | 0.14
| Transformer | 1.89 | 0.71 | 1.68 | 0.80 | 0.70 | 0.24 | 0.60 | 0.20 | 0.49 | 0.15
船队到船建模 | LSTM | 0.77 | 0.29 | 0.66 | 0.28 | 0.63 | 0.26 | 0.59 | 0.20 | 0.47 | 0.19
| MLP-Concat | 0.48 | 0.12 | 0.45 | 0.12 | 0.38 | 0.10 | 0.34 | 0.09 | 0.22 | 0.07
| MLP-Split | 0.46 | 0.11 | 0.44 | 0.11 | 0.37 | 0.10 | 0.33 | 0.09 | 0.21 | 0.08
| F2V-Former（我们的方法） | 0.44 | 0.17 | 0.42 | 0.10 | 0.33 | 0.11 | 0.29 | 0.09 | 0.16 | 0.05

表5. 不同少样本设置下的RMSE性能。

类别 | 模型 | 10-shot | 20-shot | 100-shot | 200-shot | 500-shot
---|---|---|---|---|---|---
| | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差
逐船建模 | 线性回归 | 5.61 | 17.38 | 5.70 | 14.23 | 3.02 | 10.12 | 2.95 | 13.75 | 0.85 | 0.25
| 决策树 | 1.34 | 0.42 | 1.27 | 0.48 | 0.99 | 0.49 | 0.91 | 0.47 | 0.84 | 0.42
| 随机森林 | 1.20 | 0.32 | 1.12 | 0.35 | 0.89 | 0.33 | 0.82 | 0.29 | 0.68 | 0.28
| XGBoost | 1.20 | 0.34 | 1.18 | 0.54 | 0.88 | 0.26 | 0.77 | 0.23 | 0.62 | 0.20
| MLP | 1.45 | 0.47 | 1.37 | 0.41 | 1.06 | 0.27 | 0.94 | 0.23 | 0.77 | 0.22
| Transformer | 2.24 | 0.71 | 2.07 | 0.79 | 1.08 | 0.30 | 0.96 | 0.25 | 0.79 | 0.22
船队到船建模 | LSTM | 1.10 | 0.30 | 1.05 | 0.28 | 1.00 | 0.27 | 0.92 | 0.27 | 0.83 | 0.27
| MLP-Concat | 0.81 | 0.33 | 0.80 | 0.24 | 0.75 | 0.24 | 0.72 | 0.24 | 0.58 | 0.28
| MLP-Split | 0.80 | 0.21 | 0.80 | 0.21 | 0.76 | 0.24 | 0.73 | 0.25 | 0.60 | 0.30
| F2V-Former（我们的方法） | 0.79 | 0.20 | 0.75 | 0.21 | 0.64 | 0.21 | 0.55 | 0.19 | 0.31 | 0.14

表6. 不同少样本设置下的MAPE（%）性能。

类别 | 模型 | 10-shot | 20-shot | 100-shot | 200-shot | 500-shot
---|---|---|---|---|---|---
| | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差
逐船建模 | 线性回归 | 100.96 | 114.19 | 86.06 | 96.61 | 39.76 | 36.00 | 32.79 | 50.75 | 21.63 | 5.20
| 决策树 | 33.29 | 13.59 | 31.39 | 13.92 | 22.88 | 9.07 | 19.63 | 9.44 | 17.37 | 7.11
| 随机森林 | 30.54 | 12.18 | 28.12 | 12.77 | 20.05 | 6.73 | 18.68 | 5.54 | 16.31 | 5.33
| XGBoost | 29.01 | 11.37 | 29.14 | 19.11 | 20.54 | 5.88 | 18.03 | 4.21 | 15.27 | 3.18
| MLP | 38.50 | 18.56 | 36.84 | 17.11 | 25.86 | 8.63 | 20.62 | 5.21 | 16.40 | 3.17
| Transformer | 58.13 | 11.72 | 50.74 | 15.62 | 24.81 | 7.48 | 21.98 | 6.08 | 18.06 | 3.61
船队到船建模 | LSTM | 23.38 | 7.68 | 21.71 | 9.15 | 21.35 | 8.38 | 20.86 | 8.15 | 15.26 | 5.95
| MLP-Concat | 16.65 | 4.59 | 15.25 | 3.21 | 12.47 | 3.29 | 10.44 | 1.95 | 7.22 | 1.76
| MLP-Split | 15.34 | 2.80 | 14.81 | 2.54 | 12.69 | 1.80 | 11.19 | 1.77 | 6.18 | 1.92
| F2V-Former（我们的方法） | 14.64 | 2.78 | 14.06 | 2.53 | 11.96 | 2.03 | 10.11 | 2.75 | 5.64 | 1.66

表4、表5和表6中呈现的结果说明了数据可用性和迁移学习在预测精度中的关键作用。随着目标船舶样本数量的增加，观察到预测精度总体呈改善趋势。当可用训练样本有限时，传统的逐船模型表现出脆弱性。例如，在10-shot设置下，MLP的MAE为1.03。这种相对较高的误差源于神经网络模型在缺乏先验知识时的过拟合和不稳定性。当训练数据充足时，这些模型最终会收敛到合理的精度，在500-shot设置下MLP的MAE达到0.46。然而，逐船建模方法通常表现出对充足训练数据的依赖性，其无法处理数据稀缺问题的能力使其不适合在新船上立即部署。

相比之下，船队到船框架利用预训练知识实现显著更低的初始误差，展现出更优的样本效率和泛化能力。与简单将船舶静态属性与动态运行记录拼接的模型相比，MLP-Split模型随着训练样本数量的增加取得了更好的性能。这表明为两种模态采用独立的编码器有助于模型更好地区分并利用其互补特征。此外，F2V-Former在所有设置下始终产生最低误差，在500-shot下达到0.16的MAE。这些结果证实了所提框架在跨域适应中的有效性和鲁棒性。

**4.4. 跨船舶的泛化能力**

为进一步评估所提框架在异构船舶间的泛化能力，我们按照航线路由组和船舶载重等级进行了分层评估。该评估旨在确定模型是否捕获了船舶运行条件与燃油消耗之间可迁移的关系，而非依赖于部署特定的静态属性。具体来说，与静态部署相关的变量，如航线信息和计划航行距离，可能与船舶运行概况和基准燃油消耗水平相关。如果模型主要利用这些变量作为静态捷径，其预测性能预计在不同路由组或载重等级间会出现大幅波动，且纳入目标船舶观测值只会带来有限的增量收益。因此，在载重等级间表现稳定的性能，以及一旦获得足够代表性的目标船舶支持集后出现的性能提升，为框架在异构船舶间的泛化能力提供了实证依据。

表7报告了不同路由组的预测性能。在零样本设置下，MAPE从中国国内航线的12.57%到其他船舶的15.78%不等。尽管各路由组间存在一定差异，但零样本性能仍保持在相对较窄的范围内，表明模型不仅对特定航线类别有效。在纳入目标船舶观测值后，特别是从100-shot开始，所有路由组的预测误差均有降低。尤其值得注意的是，500-shot的MAPE范围为4.64%至6.46%，与零样本设置相比有大幅降低。这种跨路由组的一致误差降低为框架在路线依赖的运行异质性下的泛化性和适应性提供了实证依据。

表7. 按路由组的预测性能MAPE（%）。

路由组 | 零样本 | 10-shot | 20-shot | 100-shot | 200-shot | 500-shot
---|---|---|---|---|---|---
| | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差
中国国内 | 12.57 | 2.24 | 13.33 | 4.30 | 12.96 | 3.73 | 10.51 | 2.51 | 8.91 | 2.99 | 4.85 | 1.89
亚太地区 | 14.51 | 1.68 | 16.21 | 2.20 | 15.42 | 1.53 | 13.72 | 2.17 | 11.89 | 3.68 | 6.46 | 1.19
欧洲 | 14.51 | 2.94 | 15.27 | 2.02 | 14.14 | 2.05 | 12.16 | 1.16 | 10.17 | 1.52 | 6.12 | 1.75
北美 | 13.99 | 2.34 | 13.97 | 1.84 | 13.76 | 2.52 | 12.20 | 1.79 | 10.53 | 2.44 | 5.86 | 1.19
拉丁美洲与非洲 | 13.39 | 2.71 | 14.70 | 2.91 | 13.87 | 2.67 | 11.73 | 2.33 | 9.76 | 3.52 | 6.43 | 2.03
其他 | 15.78 | 2.15 | 16.36 | 1.66 | 15.99 | 0.98 | 13.37 | 1.70 | 10.85 | 2.04 | 4.64 | 1.76

表8进一步展示了按船舶载重分组的组间结果。零样本MAPE值在各载重等级间高度一致，仅从13.45%到14.36%不等。这一结果表明所提框架并不完全依赖于特定的船舶尺寸类别，能够在载重差异显著的船舶间进行泛化。与基于路线的分析类似，随着更多目标船舶观测值的可获得性，预测精度稳步提升。在500-shot设置下，所有载重等级的MAPE值均落在5.20%至5.81%的窄范围内，表明所提适应策略对小型船舶和超大型集装箱船均保持有效。总体而言，分层结果表明所提框架在不同路由组和船舶载重等级间表现一致。这些结果支持了框架在异构船舶间的泛化和适应能力。

表8. 按载重的预测性能MAPE（%）。

TEU类别 | 零样本 | 10-shot | 20-shot | 100-shot | 200-shot | 500-shot
---|---|---|---|---|---|---
| | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差
支线船与巴拿马型船 | 13.45 | 3.24 | 13.75 | 2.23 | 13.78 | 3.11 | 11.29 | 3.25 | 9.72 | 4.64 | 5.55 | 1.92
超巴拿马型船 | 13.75 | 1.96 | 14.66 | 3.91 | 14.12 | 2.80 | 12.44 | 1.76 | 10.53 | 2.38 | 5.81 | 1.81
新巴拿马型船 | 14.36 | 2.01 | 15.65 | 2.30 | 14.32 | 1.84 | 12.12 | 1.38 | 10.15 | 1.75 | 5.66 | 1.40
超大型集装箱船（ULCV） | 13.86 | 1.76 | 14.75 | 1.42 | 14.06 | 1.40 | 11.85 | 0.78 | 9.63 | 0.63 | 5.20 | 0.91

**5. 敏感性分析**

在本节中，我们进行敏感性分析以进一步评估F2V-Former的鲁棒性和泛化能力。为了研究模型如何适应不断增加的目标船舶观测值，5.1节分析了在不同微调样本数下的预测误差演变。5.2节评估了动态窗口大小的影响，5.3节讨论了针对不完整历史窗口的相应填充策略。此外，5.4节探讨了分配给分组静态标记的交叉注意力权重，以解释模型如何检索船舶特定的静态信息。最后，5.5节研究了LoRA秩对整体少样本适应性能的影响。

**5.1. 微调样本数的影响**

为评估所提F2V-Former的适应性和数据效率，图7可视化了在不同微调样本数（从0到500-shot）下的预测误差演变。预测误差通过（? ? y）计算，频率定义为每个误差区间内观测值的比例。

图7. F2V-Former在不同微调shot数下的误差分布。

如图7所示，零样本预测误差分布呈现出更长的尾部以及整体向右偏移的误差，表明预训练数据与目标船舶之间存在明显的域偏移。然而，在最早期的微调阶段，改善并非严格单调递增。在10-shot和20-shot设置下，支持样本仅覆盖了目标船舶运行工况的狭窄子集，如有限的速度范围、装载状态、天气状况、海况和运行模式。在这种有限的工况覆盖下，LoRA适配器可能会将预训练的船队级先验部分适应于短暂的早期观测值，导致相对于零样本模型出现短期退化或仅有边际改善。这解释了为什么早期微调并不能立即消除域偏移偏差。

随着更多目标船舶样本的可获得性，支持集覆盖了更多样化的运行工况，使模型能够更好地区分持续的船舶特定特征与样本特定的噪声。因此，预测误差分布从100-shot开始逐步收缩并向零收敛。这一演变使峰值更加尖锐并显著减少了大幅误差。定量来看，在500-shot时，97.6%的预测值落在误差界限[?1, 1]吨/小时以内。这一轨迹表明，一旦积累了足够且具有代表性的目标船舶样本，模型能够稳定收敛到目标船舶的特定特征。

**5.2. 动态窗口大小的影响**

为研究历史时间跨度对预测精度的影响，我们在集合{1, 3, 5, 7, 14}内改变动态窗口大小w。预测结果展示在图8中。

图8. F2V-Former在不同窗口和不同微调shot数下的预测结果。

根据结果，使用多日历史窗口通常比单记录设置（w=1）能改善预测精度，在大多数微调场景下，w=14时取得最佳性能。例如，在500-shot微调下，MAE从0.19（w=1）降至0.16（w=14），对应相对降低15.8%。在RMSE和MAPE上的改善更为显著。在500-shot微调下，RMSE从w=1时的0.53降至w=14时的0.31，对应相对降低41.5%；而MAPE从8.01%降至5.64%，对应相对降低29.6%。此外，RMSE标准差从±0.46（w=1）降至±0.14（w=14），表明更大的窗口能产生更稳定的预测性能。这些结果表明，更长的历史上下文有助于模型捕获近期的运行和环境动态。理论上，更大的w提供了船舶近期运行历史的更长片段，这可能编码了气象趋势、速度变化和无法从单条记录推断的潜在瞬态扰动。

**5.3. 填充的影响**

在我们所提的F2V-Former框架中，每个预测样本使用固定长度的历史动态窗口构建。然而在实际部署中，新加入的船舶可能尚未积累足够的运行记录来形成完整窗口。如果船舶特定适应从最早可用记录开始，缺失的历史位置必须被填充。在主少样本实验中，我们通过仅在每个目标船舶具有足够记录以构建完整w=14历史窗口后才开始微调来避免此问题，因此主实验的10-shot和20-shot设置不包含零填充。

为检验不完整历史上下文和填充处理的影响，我们使用与主实验相同的微调实例比较了三种上下文构建策略。"完整历史窗口"设置对应主实验，其中每个微调样本包含完整的14条记录动态上下文。"零填充"设置用零填充不可用的历史位置，而"填充掩码"设置使用相同的不完整序列但在自注意力、交叉注意力查询位置和平均池化中掩蔽填充位置。为公平比较，所有策略使用相同的预训练模型、目标船舶划分、LoRA配置和固定测试集。结果报告于表9中。

表9. 不同历史上下文构建策略下的预测性能。

上下文构建 | 10-shot | 20-shot | 100-shot | 200-shot | 500-shot
---|---|---|---|---|---
| | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差
指标：MAE
零填充 | 0.52 | 0.18 | 0.48 | 0.16 | 0.37 | 0.12 | 0.31 | 0.11 | 0.18 | 0.08
填充掩码 | 0.51 | 0.19 | 0.48 | 0.16 | 0.37 | 0.12 | 0.31 | 0.12 | 0.18 | 0.08
完整历史窗口（我们的方法） | 0.44 | 0.17 | 0.42 | 0.10 | 0.33 | 0.11 | 0.29 | 0.09 | 0.16 | 0.05
指标：RMSE
零填充 | 0.83 | 0.35 | 0.79 | 0.24 | 0.65 | 0.22 | 0.57 | 0.20 | 0.33 | 0.13
填充掩码 | 0.82 | 0.36 | 0.78 | 0.24 | 0.65 | 0.21 | 0.57 | 0.20 | 0.33 | 0.13
完整历史窗口（我们的方法） | 0.79 | 0.20 | 0.75 | 0.21 | 0.64 | 0.21 | 0.55 | 0.19 | 0.31 | 0.14
指标：MAPE（%）
零填充 | 16.94 | 4.90 | 15.90 | 4.14 | 12.29 | 2.85 | 10.37 | 2.98 | 5.83 | 1.96
填充掩码 | 17.00 | 5.92 | 16.01 | 4.57 | 12.33 | 2.86 | 10.49 | 2.84 | 5.79 | 1.88
完整历史窗口（我们的方法） | 14.64 | 2.78 | 14.06 | 2.53 | 11.96 | 2.03 | 10.11 | 2.75 | 5.64 | 1.66

表9表明，完整历史窗口设置在不同少样本设置下始终实现最低预测误差。性能差距在早期设置下最为明显。在10-shot时，完整窗口设置的MAPE为14.64%，而零填充和填充掩码分别为16.94%和17.00%。预测性能表明不完整的历史上下文会削弱早期少样本适应。此外，填充增加了早期适应的变异性，因为10-shot的MAPE标准差从完整窗口设置的2.78升至零填充下的4.90和掩码填充下的5.92。

在实践中，目标船舶的前10或20条记录可能无法充分覆盖不同的天气状态、装载条件、速度范围或运行模式。因此，少样本设置不仅反映有限的样本量，还反映有限的工况多样性。与完整历史窗口设置相比，零填充和填充掩码在早期shot设置中均引入更高误差，因为两种策略都无法恢复缺失的运行历史。填充掩码相对于零填充没有明显优势，表明主要限制来自不可用的时间信息而非填充位置的数值表示。随着更多目标船舶记录的积累，填充效应逐渐减小，填充策略逐渐趋近于完整窗口的性能。

**5.4. 静态标记的交叉注意力分析**

为研究所提交叉注意力机制如何纳入船舶静态信息，我们检查了从动态时间表示到四个分组静态记忆标记的注意力分配：类型、载重、发动机和航线。此分析的目的是确定模型是否针对不同特征的船舶选择性地检索不同类型的静态上下文，而非将静态属性视为同质的辅助输入。这为船舶特定信息如何在统一的船队级建模框架中保留提供了可解释的视角。

我们在训练集上进行交叉注意力分析以刻画模型学到的静态标记利用情况。对于第i个训练实例，令Ai表示分配给静态记忆标记的交叉注意力权重：

Ai ∈ ?^(Nh × w × 4)

其中Nh为注意力头数量，w为动态窗口大小，最后一个维度对应四个静态记忆标记：类型、载重、发动机和航线。

我们首先对注意力权重在所有头（heads）和动态时间位置上取平均：
(34) a_{i,g} = 1/N_h ∑_{r=1}^{w} ∑_{τ=1}^{N_h} (A_i)_{r,τ,g}，其中 g ∈ {type, capacity, engine, route}。

为防止训练样本更多的船舶主导统计结果，我们首先在每个船舶内部对实例得分取平均：
(35) ā_{v,g} = 1/|I_v| ∑_{i∈I_v} a_{i,g}，其中 I_v 表示与船舶 v 相关联的训练实例集合。

随后在每个 TEU 运力等级内部对船舶级得分取平均：
(36) ā_{c,g} = 1/|V_c| ∑_{v∈V_c} ā_{v,g}，其中 V_c 表示 TEU 等级 c 中的船舶集合。

每个 TEU 等级中静态 token 的平均注意力权重如图 9 所示。

下载：下载高分辨率图片（206KB）
下载：下载全尺寸图片

图 9. 训练集上跨不同 TEU 等级分配给分组静态 token 的交叉注意力权重。

图 9 表明，交叉注意力模块在不同船舶运力等级上为四个静态记忆 token 分配了不同的权重。注意力的分配反映了刻画不同尺寸船舶所需的不同静态上下文。对于支线船（Feeder）和巴拿马型船（Panamax），航线 token 获得最高的注意力权重，表明部署上下文对于小型船舶很重要，其运行模式在不同航线之间可能存在显著差异。对于超巴拿马型船（Post-Panamax），运力 token 成为最被强调的 token，表明与规模相关的特征为区分中型船舶提供了有用上下文。对于更大的船舶，尤其是超大型集装箱船（ULCV），引擎 token 获得更高的注意力权重，这与推进能力和发动机配置对超大型集装箱船燃料消耗行为影响更大的事实相一致。

通过对分组静态 token 赋予与等级相关的权重，交叉注意力模块能够自适应地检索与每个船舶等级相关的静态上下文。这种选择性检索效果使得统一船队模型能够在学习异构船队共享知识的同时保留船舶特有的特征。

5.5. LoRA 秩（rank）的影响

LoRA 秩控制了可训练低秩更新空间的维度，因此决定了少样本微调过程中的适应容量。过小的秩可能限制模型捕获船舶特有模式的能力，而过大的秩可能引入不必要的可训练自由度，降低适应稳定性。为考察预测性能如何受此超参数影响，我们通过将 LoRA 秩变化于 r ∈ {2, 4, 8, 16, 32, 64}，同时保持适配器位置及所有其他微调设置不变，进行敏感性分析。缩放因子 α 按与秩成正比的方式调整，α/r = 2，以确保比较主要反映维度性的影响。由于 LoRA 秩仅影响目标船舶微调阶段，故本分析不包含零样本性能。

图 10 展示了 F2V-Former 在不同 LoRA 秩和不同少样本设置下的 MAPE 趋势。结果表明，增大 LoRA 秩并不导致预测精度单调提升。最佳性能对应的秩在不同微调数据量下略有不同，r = 32 在 10 和 20 次微调下取得最低 MAPE，而 r = 16 在 100、200 和 500 次微调下表现最佳。总体而言，不同秩之间的差异相对较小，表明所提出的基于 LoRA 的适应方法对确切秩值并不十分敏感。所选配置 r = 16 在所有少样本设置下始终具备竞争力，并在参数效率与适应能力之间取得了合适的平衡。

下载：下载高分辨率图片（328KB）
下载：下载全尺寸图片

图 10. 不同 LoRA 秩和不同少样本设置下的 MAPE 趋势。圆圈标记标出了每种微调数据量下的最佳 MAPE 值。

6. 消融实验

为系统考察所提框架中关键组件的贡献，我们在与主实验相同的测试设置下进行了消融实验。具体而言，本实验聚焦于三个方面：(1) 静态与动态输入的影响，(2) F2V-Former 中各组件的影响，(3) 微调策略的选择。这些分析旨在阐明输入信息、网络中各组件、适应机制以及微调策略如何共同贡献于整体预测性能。

6.1. 静态信息的消融实验

为评估 F2V-Former 中输入信息的贡献，我们对静态和动态特征进行了消融实验。如表 10 所示，"static-only" 基线去除了动态午报序列，仅基于静态船舶与部署属性预测燃料消耗，用于评估静态船舶档案本身的预测能力。为评估航线信息的影响，"w/o route attributes" 变体去除了与航线相关的静态变量，同时保留其他静态船舶属性。"dynamic-only" 变体去除所有静态输入，同时保留动态输入序列。

表 10. 静态与动态输入信息的消融实验。

| 变体 | | 零样本 | | 10-shot | | 20-shot | | 100-shot | | 200-shot | | 500-shot | |
| --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- |
| | | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差 |
| 指标: MAE | | | | | | | | | | | | | |
| Static-only 基线 | | 0.67 | 0.22 | 0.70 | 0.24 | 0.67 | 0.21 | 0.64 | 0.20 | 0.59 | 0.19 | 0.52 | 0.18 |
| w/o route attributes | | 0.47 | 0.17 | 0.53 | 0.20 | 0.50 | 0.18 | 0.43 | 0.16 | 0.37 | 0.14 | 0.24 | 0.11 |
| Dynamic-only | | 0.49 | 0.17 | 0.55 | 0.19 | 0.52 | 0.17 | 0.45 | 0.16 | 0.37 | 0.14 | 0.25 | 0.11 |
| F2V-Former (本文方法) | | 0.41 | 0.12 | 0.44 | 0.17 | 0.42 | 0.10 | 0.33 | 0.11 | 0.29 | 0.09 | 0.16 | 0.05 |
| 指标: RMSE | | | | | | | | | | | | | |
| Static-only 基线 | | 1.06 | 0.38 | 1.11 | 0.42 | 1.08 | 0.40 | 1.00 | 0.36 | 0.97 | 0.38 | 0.81 | 0.36 |
| w/o route attributes | | 0.73 | 0.20 | 0.84 | 0.29 | 0.81 | 0.25 | 0.70 | 0.22 | 0.61 | 0.21 | 0.38 | 0.15 |
| Dynamic-only | | 0.83 | 0.34 | 0.93 | 0.38 | 0.90 | 0.38 | 0.77 | 0.34 | 0.64 | 0.34 | 0.42 | 0.31 |
| F2V-Former (本文方法) | | 0.68 | 0.17 | 0.79 | 0.20 | 0.75 | 0.21 | 0.64 | 0.21 | 0.55 | 0.19 | 0.31 | 0.14 |
| 指标: MAPE (%) | | | | | | | | | | | | | |
| Static-only 基线 | | 22.69 | 4.42 | 24.80 | 6.85 | 24.02 | 5.77 | 23.25 | 5.54 | 21.61 | 5.00 | 18.18 | 4.26 |
| w/o route attributes | | 14.58 | 2.29 | 16.76 | 3.71 | 15.72 | 2.90 | 12.60 | 2.60 | 10.46 | 2.27 | 6.97 | 1.77 |
| Dynamic-only | | 15.23 | 2.34 | 16.06 | 3.36 | 13.99 | 2.93 | 12.22 | 2.58 | 11.65 | 2.48 | 7.71 | 1.59 |
| F2V-Former (本文方法) | | 13.82 | 2.34 | 14.64 | 2.78 | 14.06 | 2.53 | 11.96 | 2.03 | 10.11 | 2.75 | 5.64 | 1.66 |

Static-only 基线在所有评估设置下均产生最大的预测误差。例如，在 100、200 和 500 次微调下，其 MAPE 值分别为 23.25%、21.61% 和 18.18%，明显高于完整的 F2V-Former。这一结果表明，仅靠静态船舶和部署属性不足以刻画影响燃料消耗的时变运行与环境因素。相比之下，Dynamic-only 配置的误差低于 Static-only 基线，证实了动态午报观测对于船舶燃料消耗预测的重要性。

当与动态观测结合时，静态信息仍然具有收益。与无静态属性变体相比，完整的 F2V-Former 在 100、200 和 500 次微调下的 MAPE 分别从 12.22%、11.65% 和 7.71% 降低到 11.96%、10.11% 和 5.64%。去除与航线相关的属性也会导致比完整模型更高的误差，表明航线部署信息提供了有用的上下文。这些结果表明，F2V-Former 受益于动态运行观测与静态船舶属性的联合信息，而非依赖任何单一组件。

6.2. F2V-Former 各组件的消融实验

为评估 F2V-Former 中各组件的贡献，我们对 CLN、交叉注意力和最终静态拼接进行了消融实验。完整模型通过这三个组件引入静态信息。"concatenation-only" 变体去除了 CLN 和交叉注意力，仅保留预测头前的最终拼接。"CLN-only" 与 "Cross-attention only" 变体仅保留对应的组件，并禁用其他静态信息融合组件。"w/o CLN" 与 "w/o cross-attention" 变体则从完整架构中移除一个组件。这些比较用于评估所提组件的单独与联合影响。

根据表 11，完整框架在所有评估设置下一致取得最低误差，证明了所提架构的有效性。与 concatenation-only 变体相比，完整模型将 500-shot 的 MAPE 从 8.96% 降低至 5.64%。这些结果表明，简单的静态特征拼接不足以充分利用船舶特有的信息。单组件变体的性能低于完整模型。在 500-shot 下，CLN-only 与 Cross-attention-only 的 MAPE 值分别为 8.82% 和 8.80%。同时，从完整架构中移除任一组件也会导致明显的性能下降，500-shot 的 MAPE 分别升至无 CLN 时的 7.54% 和无交叉注意力时的 7.12%。这些发现表明 CLN 与交叉注意力对预测性能作出了互补贡献：CLN 将时序表征条件化于船舶特有静态信息，而交叉注意力为动态表征检索相关静态上下文，从而在 F2V-Former 中实现更有效的静动融合。

表 11. F2V-Former 各组件的消融实验。

| 变体 | | 零样本 | | 10-shot | | 20-shot | | 100-shot | | 200-shot | | 500-shot | |
| --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- |
| | | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差 |
| 指标: MAE | | | | | | | | | | | | | |
| 仅拼接 | | 0.49 | 0.18 | 0.54 | 0.21 | 0.51 | 0.19 | 0.44 | 0.16 | 0.39 | 0.15 | 0.29 | 0.12 |
| 仅 CLN | | 0.47 | 0.17 | 0.54 | 0.21 | 0.51 | 0.19 | 0.44 | 0.16 | 0.39 | 0.14 | 0.28 | 0.12 |
| 仅交叉注意力 | | 0.47 | 0.17 | 0.55 | 0.22 | 0.52 | 0.20 | 0.45 | 0.17 | 0.39 | 0.15 | 0.28 | 0.12 |
| w/o CLN | | 0.46 | 0.15 | 0.51 | 0.20 | 0.48 | 0.18 | 0.41 | 0.16 | 0.36 | 0.14 | 0.24 | 0.10 |
| w/o 交叉注意力 | | 0.44 | 0.15 | 0.49 | 0.19 | 0.46 | 0.17 | 0.40 | 0.15 | 0.35 | 0.13 | 0.23 | 0.09 |
| F2V-Former (本文方法) | | 0.41 | 0.12 | 0.44 | 0.17 | 0.42 | 0.10 | 0.33 | 0.11 | 0.29 | 0.09 | 0.16 | 0.05 |
| 指标: RMSE | | | | | | | | | | | | | |
| 仅拼接 | | 0.82 | 0.25 | 0.84 | 0.30 | 0.81 | 0.26 | 0.71 | 0.23 | 0.62 | 0.21 | 0.42 | 0.15 |
| 仅 CLN | | 0.74 | 0.21 | 0.85 | 0.30 | 0.82 | 0.26 | 0.71 | 0.23 | 0.62 | 0.21 | 0.42 | 0.15 |
| 仅交叉注意力 | | 0.73 | 0.20 | 0.86 | 0.31 | 0.83 | 0.26 | 0.71 | 0.23 | 0.62 | 0.21 | 0.42 | 0.15 |
| w/o CLN | | 0.75 | 0.17 | 0.86 | 0.28 | 0.78 | 0.24 | 0.69 | 0.21 | 0.57 | 0.19 | 0.35 | 0.13 |
| w/o 交叉注意力 | | 0.74 | 0.18 | 0.84 | 0.28 | 0.77 | 0.23 | 0.68 | 0.21 | 0.56 | 0.19 | 0.34 | 0.12 |
| F2V-Former (本文方法) | | 0.68 | 0.17 | 0.79 | 0.20 | 0.75 | 0.21 | 0.64 | 0.21 | 0.55 | 0.19 | 0.31 | 0.14 |
| 指标: MAPE (%) | | | | | | | | | | | | | |
| 仅拼接 | | 16.62 | 2.27 | 16.87 | 3.87 | 15.94 | 3.06 | 13.93 | 2.69 | 12.28 | 2.38 | 8.96 | 1.75 |
| 仅 CLN | | 14.71 | 2.40 | 17.09 | 3.94 | 15.94 | 3.01 | 13.88 | 2.66 | 12.18 | 2.31 | 8.82 | 1.77 |
| 仅交叉注意力 | | 14.59 | 2.59 | 17.15 | 4.17 | 16.08 | 3.26 | 13.94 | 2.82 | 12.19 | 2.53 | 8.80 | 1.79 |
| w/o CLN | | 14.97 | 2.44 | 15.68 | 3.66 | 14.74 | 2.97 | 12.91 | 2.57 | 11.36 | 2.22 | 7.54 | 1.71 |
| w/o 交叉注意力 | | 14.67 | 2.30 | 15.43 | 3.73 | 14.37 | 2.74 | 12.48 | 2.44 | 11.02 | 2.13 | 7.12 | 1.73 |
| F2V-Former (本文方法) | | 13.82 | 2.34 | 14.64 | 2.78 | 14.06 | 2.53 | 11.96 | 2.03 | 10.11 | 2.75 | 5.64 | 1.66 |

6.3. 微调策略的消融实验

为评估不同适应策略的效果，我们将所提出的基于 LoRA 的微调策略与无 LoRA 的全参数微调以及几种部分微调基线进行比较。在 "Full FT w/o LoRA" 设置中，所有预训练模型参数在微调期间被直接更新。在 "Partial FT (Attention projections only)" 设置中，仅微调注意力模块中的线性投影层（包括查询、键、值和输出投影），其余参数被冻结。"Partial FT (Prediction head only)" 将适应限制在由最终预测 MLP 实现的最终预测头，其他组件均保持冻结。"Partial FT (Encoder + attention projections)" 微调编码器以及注意力头相关参数，同时冻结其余模块。相比之下，所提出的 "Full-scope LoRA adaptation" 策略在预训练模型的所有可用模块中插入 LoRA 适配器，且在目标船舶微调期间仅更新 LoRA 适配器参数。

如表 12 所示，全范围 LoRA 适应在所有少样本设置下均取得最低的 MAE、RMSE 和 MAPE，证明了其在目标船舶适应方面的有效性。与无 LoRA 的全参数微调相比，所提策略将 500-shot 的 MAPE 从 6.76% 降低至 5.64%。部分微调基线表现出更大的预测误差，在 500-shot 下，仅微调注意力投影、仅微调预测头以及微调编码器+注意力投影的 MAPE 值分别为 9.44%、8.87% 和 7.59%。实验结果表明，所提出的 "Full-scope LoRA adaptation" 策略为面向目标船舶的少样本适应提供了更稳定高效的方法，说明基于 LoRA 的全范围适应能更好地保留预训练的船队级知识，同时快速适应船舶特有的模式。

表 12. 微调策略对比。

| 变体 | | 10-shot | | 20-shot | | 100-shot | | 200-shot | | 500-shot | |
| --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- |
| | | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差 | 均值 | 标准差 |
| Panel A: MAE | | | | | | | | | | | |
| 无 LoRA 的全参数微调 | | 0.49 | 0.18 | 0.46 | 0.15 | 0.37 | 0.13 | 0.32 | 0.11 | 0.19 | 0.08 |
| 部分微调（仅注意力投影） | | 0.57 | 0.21 | 0.53 | 0.19 | 0.46 | 0.17 | 0.40 | 0.14 | 0.30 | 0.12 |
| 部分微调（仅预测头） | | 0.56 | 0.23 | 0.53 | 0.21 | 0.45 | 0.17 | 0.39 | 0.15 | 0.28 | 0.12 |
| 部分微调（编码器+注意力投影） | | 0.50 | 0.15 | 0.47 | 0.14 | 0.42 | 0.13 | 0.36 | 0.11 | 0.23 | 0.07 |
| 全范围 LoRA 适应（本文方法） | | 0.44 | 0.17 | 0.42 | 0.10 | 0.33 | 0.11 | 0.29 | 0.09 | 0.16 | 0.05 |
| Panel B: RMSE | | | | | | | | | | | |
| 无 LoRA 的全参数微调 | | 0.80 | 0.32 | 0.77 | 0.25 | 0.67 | 0.21 | 0.58 | 0.20 | 0.35 | 0.14 |
| 部分微调（仅注意力投影） | | 0.88 | 0.32 | 0.84 | 0.26 | 0.73 | 0.23 | 0.63 | 0.21 | 0.44 | 0.16 |
| 部分微调（仅预测头） | | 0.86 | 0.37 | 0.83 | 0.30 | 0.71 | 0.23 | 0.62 | 0.22 | 0.43 | 0.16 |
| 部分微调（编码器+注意力投影） | | 0.94 | 0.49 | 0.90 | 0.49 | 0.83 | 0.46 | 0.76 | 0.48 | 0.50 | 0.43 |
| 全范围 LoRA 适应（本文方法） | | 0.79 | 0.20 | 0.75 | 0.21 | 0.64 | 0.21 | 0.55 | 0.19 | 0.31 | 0.14 |
| Panel C: MAPE (%) | | | | | | | | | | | |
| 无 LoRA 的全参数微调 | | 16.50 | 4.31 | 15.20 | 2.98 | 12.50 | 3.02 | 11.32 | 2.59 | 6.76 | 1.80 |
| 部分微调（仅注意力投影） | | 18.09 | 4.39 | 16.65 | 3.21 | 14.33 | 2.70 | 12.57 | 2.29 | 9.44 | 1.74 |
| 部分微调（仅预测头） | | 17.73 | 4.73 | 16.62 | 3.58 | 14.42 | 3.09 | 12.50 | 2.64 | 8.87 | 2.04 |
| 部分微调（编码器+注意力投影） | | 16.76 | 4.11 | 15.47 | 4.03 | 13.95 | 3.10 | 12.04 | 2.85 | 7.59 | 1.66 |
| 全范围 LoRA 适应（本文方法） | | 14.64 | 2.78 | 14.06 | 2.53 | 11.96 | 2.03 | 10.11 | 2.75 | 5.64 | 1.66 |

7. 结论

本文提出了 F2V-Former，一个新颖的框架，通过利用从异构船队中学习到的领域知识，解决了船舶燃料消耗预测中的关键挑战。具体而言，所提框架系统性地克服了逐船建模中的数据稀缺、重复建模、领域偏移偏差，以及异构船队知识有效整合等瓶颈。通过引入统一模型，船队到船舶的建模范式为船舶燃料消耗预测建立了一种新范式，显著提升了预测精度与运行可靠性。

在真实集装箱运输船队上的大量实验验证表明了该框架的优越性能，在预测精度和稳定性方面均取得了最佳表现。零样本和少样本实验进一步证明了其相较于其他模型的强泛化能力。尽管本研究的实证验证在集装箱运输船队上进行，所提框架在结构上并不局限于集装箱船。由于 F2V-Former 旨在整合船舶特有的静态属性与时变运行观测，因此当存在适当的静态和动态信息时，它可以扩展至其他船舶船队。在船舶燃料消耗预测之外，F2V-Former 为交通系统中的统一建模提供了一份通用蓝图。未来工作可探索多粒度特征融合、实际部署以及实时决策支持。通过在一个统一框架中实现船队级学习与逐船预测，F2V-Former 重新定义了统一模型在船舶燃料消耗预测中的角色，并提供了方法学上的进步以及可靠、数据高效的船队部署的实践路径。

CRediT 作者贡献声明

Leqi Zhou（周乐奇）：原创草稿撰写、可视化、验证、软件、资源、方法论、调查、形式化分析、数据整理、概念化。
Jian Gang Jin（金建刚）：审稿与编辑、监督、资源、项目管理、方法论、资金获取、数据整理、概念化。
Yanfei Zhang（张彦飞）：审稿与编辑、监督、资源、调查、数据整理、概念化。
Ran Yan（严冉）：审稿与编辑、监督、资源、项目管理、资金获取、概念化。

Leqi Zhou | Jian Gang Jin | Yanfei Zhang | Ran Yan