重新审视高斯过程回归中的核函数复杂性：关于时尚设计中文本到视觉嵌入映射的实证研究

《Neurocomputing》：Revisiting kernel complexity in Gaussian process regression: An empirical study on text-to-visual embedding mapping in fashion design

　　莫东梅|丹尼尔·奥古斯托·德索萨|邹星星|黄伟强中国香港特别行政区香港香港理工大学摘要高斯过程回归因其灵活性和合理的不确定性估计方法而被广泛用于复杂数据建模，其中核函数的选择对于捕捉数据的潜在特征起着关键作用。虽然像谱混合核这样的复杂核函数因其表达能力而被认为能带来更优的性能，但对于那些具有弱或模糊模式的现实世界数据而言，增加核函数的复杂性是否始终有益仍不明确。在本文中，我们通过基于时尚领域文本到视觉嵌入映射任务的受控实证研究，重新审视了核函数复杂性在高斯过程回归中的作用。具体而言，我们将多模态关系构建为低维回归问题，利用文本特征来预测相应的视觉嵌入。这种构建方式使得我们能够系统地研究不同核函数在各种数据条件下的表现，包括合成的平稳和非平稳数据以及现实世界中的非高斯数据。此外，我们还分析了不同核函数族的计算复杂性，并比较了它们的实际训练和推理成本。实验结果表明，当数据结构较弱或多尺度模式有限时，增加核函数复杂性并不一定能提升预测性能。在某些情况下，较简单的平稳核函数就能达到与更具表达力的谱混合基核函数相当甚至更好的性能，同时所需的参数更少，计算开销也更低。通过弗里德曼检验和成对威尔科克森符号秩检验进行的统计验证进一步证实，所观察到的性能差异具有显著性，且较简单的核函数在统计上仍能与表现最佳的复杂核函数相竞争。此外，我们还发现，像均方根误差和平均绝对百分比误差这样的传统指标并不能完全描述模型行为；不确定性估计和预测可视化则为核函数选择提供了补充性的见解。尽管这些发现得到了我们对时尚数据评估的支持，但它们只是特定情境下的观察结果，而非关于高斯过程回归中核函数复杂性的普遍结论。本研究为多模态回归任务中选择合适的核函数提供了实用见解。相关数据和代码可在https://github.com/HumSCI2/GP-for-Fashion-Design获取。引言高斯过程[7]、[26]、[35]、[46]作为一种非参数贝叶斯模型，被广泛用于学习函数分布，尤其是在需要量化不确定性的场景中。它们已成功应用于多个领域[19]、[20]、[32]，包括时间序列预测、多模态回归[1]、[22]、[27]、[40]以及与图像相关的任务[6]。高斯过程模型的一个关键组成部分就是核函数（协方差函数）的选择，它决定了数据模式的捕捉方式，并直接影响预测性能[11]、[36]、[42]、[45]。近期在高斯过程回归方面的进展集中在开发系统化的核函数选择和构建方法，以处理复杂的高维数据。其中一个主要方向是开发自动核函数搜索框架，例如“自动化统计师”[12]，它利用核函数语法来发现可解释的结构。与此同时，还有数据驱动的核函数发现方法，如核流[2]，这类方法通过在不同数据尺度上最小化损失来自动学习最优的核函数形式，从而提高模型在特定应用中的适应性。除了寻找单个核函数外，还有复合方法利用加法和乘法结构来捕捉多样化的数据特征。加性高斯过程[13]和加权复合模型[41]允许将复杂信号分解为可解释的成分，如全局趋势、平滑度和周期性。此外，最近关于贝叶斯生成核学习的研宄[24]旨在在概率框架内推断出合适的结构，从而实现对动态数据模式的灵活建模。然而，核函数复杂性的增加也会带来模型设定错误的风险。正如高斯过程插值领域的基础研究[44]所指出的，不良的核函数选择可能导致不可靠的不确定性量化以及预测失败。近期关于认知设定错误的研究[21]、[39]强调了需要稳健的选择标准以确保模型在样本外的泛化能力。虽然现有方法主要侧重于提高模型的表达能力，但我们的工作则着眼于实证分析核函数复杂性在实际应用中如何与数据特征、表示方法及优化条件相互作用。在高斯过程回归中常用的核函数中，径向基函数和马特恩核因其实用性高、假设条件简单以及在众多回归任务中表现优异而广为采用。近期关于径向基函数方法中核函数和形状参数选择的研究表明，回归性能对核函数配置和参数调优极为敏感。现有研究已经探讨了自适应核函数选择、贝叶斯参数估计以及数据驱动的调优策略，以此提升模型的近似稳定性、数值鲁棒性和预测精度[3]、[4]、[14]。尽管这些平稳核函数具有诸多优势，但它们在处理具有多种特征长度尺度或在输入空间中呈现异构模式的复杂数据时存在局限性。为了解决这一问题，人们提出了更具表达力的核函数，如谱混合核[45]、[50]。通过将协方差函数表示为谱成分的混合体，谱混合核能够捕捉多尺度和准周期结构，通常被视为标准平稳核函数的灵活替代方案。尽管它们具有强大的表达能力，但目前仍不清楚增加核函数复杂性是否总能带来性能提升，尤其是在数据可能包含噪声、非平稳且呈非高斯分布的现实世界场景中[15]、[51]。虽然复杂核函数在理论上可以模拟复杂的模式，但它们也会给优化、初始化和模型鲁棒性带来挑战。这就引出了一个重要问题：在某些数据条件下，是否总是需要更高复杂度的核函数，或者更简单的平稳核函数就能提供具有竞争力甚至更可靠的性能？为了解答这个问题，我们对不同数据特征下高斯过程回归中核函数的行为进行了系统的实证研究。与以往主要关注优化核函数参数或选择最佳形状参数的研究不同，我们系统地研究了不同核函数在各种数据条件下的表现。具体而言，我们构建了一个多模态回归任务，利用文本特征来预测相应的视觉嵌入，从而为分析不同核函数对结构化数据和非结构化数据的响应提供了一个受控环境。该研究包括了在数据属性如平稳性可以被控制的合成数据集上的实验，以及具有非高斯分布和较少结构特征的现实世界时尚设计数据上的实验。我们的实验结果表明，虽然在合成数据中谱混合核能够有效捕捉结构化模式，但在数据具有非高斯特性且缺乏清晰多尺度模式的现实世界环境中，它们并未始终能优于更简单的平稳核函数。在这种情况下，更简单的核函数在许多情况下可能表现出更稳定的行为以及相当的预测性能。此外，我们还发现，像均方根误差和平均绝对百分比误差这样的传统评估指标并不能完全反映模型行为，而不确定性估计和预测可视化则为模型选择提供了重要的补充信息。本文的主要贡献如下：•我们针对具有已知结构的合成数据集以及具有非高斯特征的现实世界时尚数据，开展了关于高斯过程回归中核函数复杂性的受控实证研究。•我们的实验结果表明，在所研究的场景中，没有一种核函数能在所有数据集和评估条件下始终占据优势。当存在明显的谱模式时，像谱混合核这样的具表达力强的核函数可能具有优势，而在缺乏此类结构时，更简单的平稳核函数则能提供具有竞争力的预测精度以及更稳定的不确定性校准。尽管这些发现得到了我们对时尚数据评估的支持，但它们只是特定情境下的观察结果，而非关于高斯过程回归中核函数复杂性的普遍结论。•我们通过分析预测不确定性及外推行为，为核函数选择提供了实用指导，证明了仅依靠传统的准确性指标并不足以实现对模型的可靠评估。问题定义：高斯过程回归高斯过程是一种强大的非参数贝叶斯模型，被广泛应用于机器学习中的回归和分类任务。本质上，高斯过程定义了函数的一种分布，也就是说，从一个函数中得到的任意有限数量的点都遵循多元高斯分布。高斯过程可以表示为其中 是均值函数，表示函数在每个输入点处的期望值。为简化起见，通常假定其为0（即以0为中心）。 是评估指标我们使用以下准确性评估指标来评价我们的估计器：均方根误差[5]、平均绝对百分比误差[29]，以及不确定性指标：负对数预测密度[40]、经验覆盖率[C95 [23]]、区间宽度[IW95] [23]、预期校准误差[ECE] [30]，还有对不同估计器在测试数据上外推结果的可视化展示。预测性能我们评估了不同方法在所有时期中从文本输入预测视觉特征的性能。表2和表3分别总结了迪奥和范思哲数据集上的定量结果，其中包括预测准确率和不确定性质量指标。图9展示了不同方法的外推结果，其中给出了高斯过程模型的均值和置信区间。为了提高图表的清晰度，我们仅选择了那些具有更大参数值的核函数。参数初始化对于那些单一的平稳核函数，有两个参数需要正确初始化才能获得更好的性能。图15展示了在所有特征都被输入的情况下，不同方法在迪奥验证数据集上随着 和 参数值变化时的均方根误差情况，其中 控制着核函数的长度尺度，而 控制着噪声的影响。总体而言，随着参数值的变化，这些方法的均方根误差并没有出现大幅波动，因此在所有实验中我们都将核函数的参数初始化为 。核函数方差图16、图17结论本文通过对合成数据和现实世界数据环境下高斯过程回归中核函数复杂性的实证研究，发现虽然像谱混合核这样的高表达力核函数在具有清晰模式的结构化数据上表现良好，但在结构较弱或不存在此类结构时，它们并未始终能优于更简单的平稳核函数。通过弗里德曼检验和成对威尔科克森符号秩检验进行的统计验证进一步证实，更简单的核函数具有更好的性能。CRediT作者贡献声明莫东梅：写作——审阅与编辑、写作——初稿撰写、可视化、验证、方法论、正式分析、数据整理、概念构建。丹尼尔·奥古斯托·德索萨：写作——审阅与编辑、研究、正式分析。邹星星：写作——审阅与编辑、研究。黄伟强：写作——审阅与编辑、监督。利益冲突声明作者声明他们没有任何已知的财务利益或个人关系可能影响本文所述的工作。致谢本项工作部分得到了香港特别行政区政府创新科技署的InnoHK计划以及香港理工大学人工智能设计实验室的支持。此外，本项工作还得到了香港理工大学提供的资助（项目编号：PolyU (UGC) Project P0061277）。作者们衷心感谢Marc Deisenroth教授在整个研究过程中给予的宝贵支持和建议。莫东梅拥有香港理工大学时尚纺织学院的博士学位，目前是香港理工大学人文学院的科研助理教授。她的研究主要集中在人工智能和机器学习在人文、时尚和商业领域的应用。