基于图融合的数据重建方法在多视图多标签特征选择中的应用

《Pattern Recognition》：Graph-fusion guided data reconstruction for multi-view multi-label feature selection

多视图多标签特征选择方法研究。本文提出GDRFS方法，通过图融合机制捕捉全局实例一致性关系，嵌入子空间学习优化特征分布，并重构数据平衡一致性与互补性。实验证明优于现有方法。

　　

陈嘉明|张平|李永豪|高万福

河北工业大学人工智能学院，天津300401，中国

摘要

多视图多标签（MVML）学习模型利用来自多个来源的异构特征来处理对象，比单视图学习提供更丰富的表示。MVML特征选择旨在从多源数据中识别出有信息量的特征，以降低计算复杂性并缓解过拟合问题，已经提出了许多有效的方法。然而，现有的基于多视图特征融合的方法忽略了不同视图之间实例相似性关系的差异，因此在构建所有视图的融合矩阵时无法捕捉全局实例一致性关系。此外，这些方法容易受到原始数据中的噪声和异常值的影响，这可能会显著降低模型性能。为了解决这些问题，我们提出了基于图融合的数据重构的多视图多标签特征选择方法（GDRFS）。GDRFS首先采用图融合机制来捕捉视图之间的潜在实例一致性关系，然后将其嵌入到子空间学习过程中，以优化特征分布并重构数据，从而在保留视图特定特性的同时增强跨视图关联。此外，还共同构建了全局和局部映射函数，以平衡一致性和互补特征。在七个真实世界数据集上的广泛实验表明了所提出方法的优越性。

引言

多视图多标签（MVML）学习在多个应用领域受到了广泛关注，重点在于挖掘由多个异构视图特征和多个语义标签描述的数据中的模式[1]，[2]。与单视图学习相比，MVML学习利用多个视图提供的互补信息来更全面地理解数据特征，从而实现更精确的标签语义建模[3]，[4]。例如，在电影分类中，结合音频、视觉和文本模态可以提高喜剧和动作等语义标签的区分度，最终提高MVML学习的分类性能。因此，MVML学习已成为复杂数据分析任务中多种应用的宝贵框架[5]。然而，随着视图数量的增加，特征维度迅速增长，这大大增加了MVML方法在噪声特征中识别有意义语义模式的能力。特征选择是一个关键的预处理步骤，旨在从高维数据中识别出具有区分性和相关性的特征，同时去除不相关或冗余的特征，从而得到一个紧凑且信息丰富的特征子集。因此，采用有效的特征选择方法为MVML学习获取高质量的特征至关重要[6]。

大多数MVML学习方法采用各种特征融合策略来获得一个统一的视图表示，该表示能够捕捉跨视图的一致信息，这些策略可以分为两类：基于全局视图学习的方法和基于子空间学习的方法[7]，[8]。全局视图学习方法将多个特征空间连接成一个统一的特征空间，然后从统一特征构建全局映射以捕捉一致信息。例如，张等人[9]对全局特征权重施加正则化约束，以实现层次化特征选择，同时为每个视图构建局部几何结构以探索视图间相关性。郝等人[10]将视图权重整合到全局视图中，并构建局部映射关系以强调视图间的独特特征。基于子空间学习的方法通过将多个视图的特征空间映射到一个共同的低维空间来获得统一的视图表示。例如，谭等人[11]首先构建一个共同的子空间以提取共享信息，然后训练独立的分类器以揭示视图特定信息。钟等人[12]提出了一种多阶段匹配对齐策略用于跨视图特征对齐，其中构建了一个共享的子空间表示和多个视图特定的表示，以提取跨视图的一致和互补信息。

尽管现有方法在各种MVML任务中表现出显著的性能，但特征融合策略仍面临一些固有的挑战。具体来说，不同的视图捕获实例的异构特征或属性，导致视图依赖的实例相似性。例如，在图像分类中，颜色视图和纹理视图之间可能表现出不同的相似性关系。理想情况下，多视图空间中的共识信息应该反映跨视图共享的常见实例关系，这些关系通常隐藏在各个视图内部。然而，上述特征融合方法在提取共识信息时忽略了这种视图依赖的关系差异，从而无法捕捉共享的实例关系。此外，如果不明确约束这些共同关系，得到的特征融合矩阵可能会表现出不合理的信息分布，限制了其有效整合不同视图互补信息的能力。此外，原始数据中的噪声和异常值可能会降低模型性能。例如，来自不同来源的传感器数据可能会受到不同程度的噪声影响。不加区分地将噪声视图与更可靠的视图融合可能会导致学习过程出错，从而产生不准确的预测或分类结果。

为了克服上述挑战，我们提出了一种名为基于图融合的数据重构的多视图多标签特征选择方法（GDRFS）。该方法将全局实例一致性关系纳入模型的学习过程中。它同时执行数据重构，将分散的数据整合到一个协作数据集中，并消除原始数据中的噪声。具体来说，我们使用自表达图学习为每个视图构建图结构来模拟视图依赖的实例相似性，然后通过图融合获得共识图，以捕捉跨视图实例的高阶潜在一致性关系。随后，将实例一致性关系嵌入到子空间学习过程中，以优化子空间内的特征分布并从子空间重构数据。最后，使用重构的数据构建全局和局部映射函数，以精确平衡一致性和互补信息。本工作的主要贡献总结如下：

• $•$
  GDRFS采用图融合机制来捕捉全局实例一致性，并将这些信息嵌入到训练过程中，从而能够提取跨视图的潜在共同信息。
• $•$
  GDRFS在优化的子空间中重构数据，保留共享的实例关系，同时保持视图特定特性，从而为学习一致且互补的信息提供高质量的表示。
• $•$
  在七个真实世界数据集上进行的广泛实验表明，所提出的方法优于现有的最佳基线方法，而理论分析进一步验证了其收敛性和鲁棒性。

本文的其余部分安排如下：第2节回顾相关工作。第3节详细介绍了我们提出的新方法。第4节展示并分析了实验结果。第5节总结了本文并概述了未来的研究方向。

章节片段

多标签学习

近年来，提出了许多多标签学习方法来解决多标签数据的复杂性[13]。这些方法可以大致分为三类：一阶策略、二阶策略和高阶策略。一阶策略将多标签学习问题分解为多个独立的单标签学习问题，从而忽略了标签之间的相关性[14]。例如，二元相关性（BR）方法[15]将每个

所提出的方法

为了详细介绍所提出的方法，我们首先在第3.1节正式定义符号表示。随后，在第3.2节深入推导我们的方法。然后，在第3.3节中，我们描述了优化过程，该过程涉及使用乘法更新规则更新各个变量。在第3.4节中，我们为目标函数提供了收敛性证明。最后，在第3.5节中，我们分析了所提出方法的复杂性。

实验

在本节中，我们使用来自不同领域的多个MVML数据集进行了大量的实验比较。实验结果验证了GDRFS方法的有效性。实验在PyCharm环境中进行，配置如下：Intel i7-8700处理器、Windows 10系统和32 GB内存。

结论与未来工作

在本文中，我们提出了一种新的MVML特征选择方法。与传统方法不同，我们是第一个引入图融合策略来捕捉全局实例一致性关系的方法。此外，我们将全局一致性关系纳入学习过程中，以增强其一致性表示并减轻传统特征融合策略的局限性。此外，数据重构减轻了异构噪声的影响

CRediT作者贡献声明

陈嘉明：撰写——原始草稿，可视化，验证，项目管理，方法论，调查，形式分析，数据管理。张平：撰写——审阅与编辑，验证，监督，方法论，调查，资金获取，概念化。李永豪：撰写——审阅与编辑，验证，监督，调查，形式分析，概念化。高万福：可视化，验证，监督，项目管理，形式分析，

利益冲突声明

作者声明他们没有已知的竞争性财务利益或个人关系可能影响本文报告的工作。

致谢

本工作得到了国家自然科学基金（项目编号：62206085和62376088）；河北省自然科学基金（项目编号：F2025202050和F2024202047）；河北省燕赵金平台人才聚集计划重点人才项目（博士后平台）（项目编号：B2024005001）；中央高校基本科研业务费（河北工业大学项目编号：93K172025K18）的支持。