基于图分数拉普拉斯核回归的信号预测方法

《Digital Signal Processing》：Graph Fractional Laplacian Kernel Regression for Signal Prediction

　　

郭林轩|张宇|李冰兆

中国北京，北京工业大学数学与统计学院，邮编100081

摘要

基于图的核回归为预测图信号提供了一种灵活的非参数框架，且无需考虑输入数据的图结构。本文提出了图分数拉普拉斯核回归方法，这是一种对传统图正则化核回归框架的扩展，它将图分数拉普拉斯算子引入到输出平滑性惩罚项中。该模型允许对正则化器中的谱权重进行连续控制，从而调节预测图信号的平滑度。我们推导出了原始优化条件，并证明所得估计量满足线性矩阵正规方程，这一性质使得该模型具有封闭形式的表达式，同时也便于使用高效的数值求解方法。此外，我们还开发了基于核的实现方式，以避免显式的特征表示，仅通过核矩阵和图算子来实现训练和预测。在合成图模型以及真实世界图信号数据集上的实验表明，适当选择分数阶数可以降低预测误差。

引言

传统的信号处理主要聚焦于在规则的欧几里得空间（如时间和空间）中定义的信号的分析、处理与解读。然而，在许多现代应用中，数据存在于不规则和非欧几里得空间中，比如社交网络、传感器网络以及脑网络[1]、[2]、[3]、[4]、[5]。由于这些数据背后的样本并非遵循规则的网格结构，传统的信号处理方法无法直接应用于此类数据，这一限制促使了图信号处理技术的发展。

图信号处理为在图结构上定义的信号提供了一套建模、处理和分析的框架[1]、[3]、[6]、[7]，其中图傅里叶变换通常被用作图谱分析的基本工具[8]。在该框架中，数据被表示为图顶点上的信号，而数据点之间的关联则通过图边来体现。由于能够利用关联信息，图信号处理已被广泛应用于各种网络化数据场景，包括社交网络、传感器网络、计算机视觉[9]以及交通系统[10]。它还被用于多种信号处理任务，比如滤波[1]、[11]、[12]、采样[13]、[14]、[15]、[16]、数据压缩[17]以及信号重建[18]、[19]、[20]、[21]、[22]、[23]。

在图信号处理中，核方法被越来越多地用于建模非线性关系并提升计算效率。这类非参数方法基于正定核，为学习输入与输出之间的非线性映射提供了有效途径[24]、[25]、[26]。通过在核设计中融入图结构，所得估计量能够同时利用信号关联信息和图连通性，从而有助于图信号的重建与预测。目前已有多种图核方法被用于图信号学习。Romero等人提出了一种基于核的重建框架，该框架利用基于拉普拉斯算子的核从不完整且有噪声的观测数据中恢复图信号[27]，后来他们还将该方法扩展为一种非参数的多核学习方案[28]。为提高在模型不匹配情况下的鲁棒性，Ioannidis等人开发了一种基于图核的重建方法[29]。Venkitaraman等人则通过提出一种核回归模型来研究图信号预测，该模型结合了输入空间核与图拉普拉斯正则化项，以此提升图中目标信号的平滑度[30]。

在现有的许多方法中，图核都是基于图拉普拉斯算子的谱函数构建的。由此得到的核矩阵能够捕捉不同尺度下图结构的平滑特性以及顶点间的关联关系。现有研究[27]、[28]、[29]、[30]已证明，核方法在图信号处理的图信号重建与预测任务中十分有效。不过，这些方法通常依赖于图拉普拉斯算子，这可能限制了它们处理多尺度图结构以及具有不同平滑度水平的图信号的能力。因此，人们开始研究更为灵活的基于核的图信号处理方法。

提升这种灵活性的一种可行方法是利用与分数傅里叶变换相关的工具对经典的拉普拉斯算子进行分数化处理[31]、[32]、[33]、[34]。分数傅里叶变换通过分数阶α对傅里叶变换进行了扩展，使得信号能够在时间域和频率域之间的中间域中被表示。这一特性可以为更广泛的信号类别提供更为紧凑或带限的表示形式[35]。正是基于这些优势，图分数傅里叶变换作为图傅里叶变换的参数化扩展被提出。通过引入变换阶数，图分数傅里叶变换能够将图信号映射到顶点谱域与图谱域之间的中间域[36]、[37]、[38]。这一额外的自由度使得图谱分析更加灵活，而且相比传统的图傅里叶变换域处理方法，它还能提升去噪和采样的性能[36]、[39]、[40]、[41]、[42]、[43]。

受上述研究的启发，本文研究了图分数拉普拉斯核回归方法。该方法针对具有对称非负邻接矩阵的加权无向图而设计，这类图涵盖了众多图信号处理应用场景，包括传感器网络、脑网络、社交相似性网络以及交通网络。本文的主要贡献如下：

• •
  首先，我们提出了FLKR模型，该模型在传统基于拉普拉斯算子的图核回归基础上，加入了可调节的分数阶图平滑性先验项。
• •
  其次，我们构建了一个分数阶联合谱分析框架，用于描述所提回归模型的谱特性。
• •
  最后，我们通过全面的实验评估证明了所提方法相较于传统的整数阶拉普拉斯正则化方法更具优越性。

本文的其余结构如下：第2节介绍图信号处理、图分数拉普拉斯算子以及核方法的相关理论；第3节提出FLKR方法，包括其线性回归形式、基于核的扩展形式以及谱平滑性解释；第4节展示实验结果，并分析不同训练条件下的预测性能；最后，第5节对全文进行总结。

章节概要

预备知识

本节介绍了本文所使用的核心概念与符号，包括图信号处理以及核方法相关内容。

主要结果

在现有研究的基础上，本节探讨了FLKR方法，该方法在核回归中加入了图分数拉普拉斯正则化项。

实验部分

本节评估了FLKR方法在图信号预测任务中的性能。每个目标输出向量都被视为一个图信号，其中节点代表输出维度，边则描述各节点之间的关系。我们的目标是通过利用图结构，从含有噪声或信息不全的观测数据中预测出这些信号。

我们同时使用了合成数据集和真实世界的图信号数据集。在合成实验中，我们在具有不同拓扑结构的图上生成平滑的目标信号，这样我们就可以测试

结论

我们通过在输出平滑性项中引入图分数拉普拉斯算子，对图正则化核回归方法进行了扩展，这种方式为调整谱权重以及预测信号的平滑度提供了连续的可控手段。在合成图以及真实世界数据集上的实验验证了该方法的有效性，结果表明合适的分数阶数能够降低预测误差。未来的工作将涉及对部分未知或随时间变化的图结构的处理，以及为大规模图数据开发高效的求解算法。

CRediT作者贡献说明

郭林轩：方法设计、软件实现、数据整理、初稿撰写、结果验证。张宇：方法设计、论文审阅与编辑、结果验证。李冰兆：资源提供、研究指导、论文审阅与编辑。

利益冲突声明

作者声明不存在任何可能影响本文研究结果的已知财务利益关系或个人关系。