基于多图正则化非负Tucker分解（MGNTD）及其半监督扩展（MGSNTD）的张量数据低维表示方法研究

本文提出了一种创新的多图正则化非负Tucker分解（MGNTD）方法，通过整合源自数据空间不同表示（如原始格式和单位欧几里得长度归一化格式）的多图结构，有效保留了数据的共享及独有几何信息。进一步地，文章引入了半监督扩展版本MGSNTD，利用少量标签信息进行标签传播，显著提升了低维表示的性能。实验结果表明，所提方法在多个真实数据集上优于现有先进技术。

　　

Highlights

• •
  • 我们构建了来自数据空间不同表示的图，并分析了它们的异同。开发了一种多图正则化方法来保留多图结构。这种多图策略可以扩展到其他基于图的相关方法。
• •
  • 通过将多图正则化融入非负Tucker分解（NTD），提出了一种新颖的多图正则化非负Tucker分解（MGNTD）方法。大量实验证明了所提方法的有效性以及多图正则化的优势。
• •
  • 提出了一种多图正则化半监督非负Tucker分解（MGSNTD）方法。它不仅保留了数据空间的多图结构，而且充分利用了可用的标签信息。大量实验结果显示了所提方法的优越性。
• •
  • 与一些最先进的（state-of-the-art）无监督方法和半监督方法相比，我们提出的这两种方法在大多数情况下都获得了最佳性能。特别是，我们提出的MGSNTD方法对于具有大量样本但仅有少量标记样本的数据集，其低维表示能力非常出色。

Section snippets

Related works

给定 I₃ 个矩阵数据 X_i ∈ R₊^{I₁ × I₂} (i=1,...,I₃)，它们可以看作是 I₃ 幅灰度图像，我们构建一个张量 X ∈ R₊^{I₁ × I₂ × I₃}，使得 X(:, :, i) = X_i，其中 X(:, :, i) 是 X 的第 i 个正面切片（frontal slice）。该张量 X 的非负Tucker分解（NTD）旨在找到一个非负核心张量 G ∈ R₊^{J₁ × J₂ × J₃} 和三个非负因子矩阵 A ∈ R₊^{I₁ × J₁}, B ∈ R₊^{I₂ × J₂}, 以及 C ∈ R₊^{I₃ × J₃}，使得核心张量 G 与三个因子矩阵 A, B, C 沿每个模态相乘的结果最优地逼近 X。

Multi-graph regularized NTD

在本节中，我们介绍一种新颖的多图正则化器，并提出MGNTD方法。同时提供了求解MGNTD方法的算法及其相应的收敛性分析。

Multi-graph regularized semi-supervised NTD

在本节中，我们将MGNTD扩展为一种半监督NTD方法，称为MGSNTD。同时给出了其算法和相应的收敛性分析。

Complexity analysis for MGNTD and MGSNTD

在本节中，我们提供了这两种提出算法的复杂度分析。

在算法1和算法2中，存在许多Kronecker积运算。据我们所知，Kronecker积运算需要较高的时间成本，因此我们将Kronecker积运算转换为张量形式的运算。利用张量的模-1展开（mode-1 unfolding）以及张量与矩阵的r模乘积（r-mode product），我们知道公式 X₍₁₎(B ? C) = (X ×₂ B^? ×₃ C^?)₍₁₎ 成立。因此，针对 A 的更新规则（7）可以...

Experiments

在本节中，我们进行了大量实验来验证MGNTD和MGSNTD的有效性。使用了五个评估指标，包括准确率（ACC）、调整兰德指数（ARI）、F1分数（F1）、标准化互信息（NMI）和召回率（Recall），以评估聚类任务中的性能。源代码可在 https://www.github.com/jingwenjing获取。

Conclusion

在本文中，我们通过构建图探索了源自数据空间多种表示的几何结构，分析了这些图之间的异同，并建立了一种多图正则化策略以尽可能保留这些几何结构。通过将多图正则化融入非负Tucker分解（NTD），我们提出了一种称为MGNTD的多图正则化非负Tucker分解方法。随后，我们将MGNTD方法扩展为一种半监督版本。