连续解耦图神经架构搜索：一种结合硬件感知多目标优化的图神经网络架构设计框架

《Symmetry》：Intelligent Translation for Less Commonly Taught Languages: Symmetry-Aware Bidirectional Decoding with Linguistic Guidance and XLNet Enhancement

　　

摘要

近年来，图神经网络（GNNs）在基于图的学习任务中取得了显著成功。然而，现有的深度图神经网络（DGNN）架构和神经架构搜索（NAS）框架由于传播–变换操作紧密耦合而仍受局限。这导致搜索空间呈指数级增长、计算效率低下以及深度引起的过度平滑问题。为解决这些挑战，本研究提出了一种连续解耦图神经架构搜索（CDGNAS）框架。所提出的CDGNAS在连续可微分搜索空间内，将结构传播和特征变换作为独立的架构维度分别建模。因此，采用硬件感知的成本约束作为双层多目标优化策略，以在最大化节点分类准确率的同时最小化计算开销。该解耦形式减少了传播操作与变换操作之间的有效搜索空间耦合。实验在包括Cora、Citeseer和PubMed在内的基准引文网络上，以及大规模开放图基准（OGB）数据集上进行。所发现的架构在Cora、Citeseer和PubMed数据集上分别达到了89.36 ± 0.30%、77.58 ± 0.50%和89.15 ± 0.20%的节点分类准确率。此外，所提出的CDGNAS在ogbn-arxiv上达到78.92 ± 1.20%的准确率，在ogbn-proteins数据集上达到81.76 ± 0.60%的ROC-AUC。这些结果表明，CDGNAS能够在评估的基准设置下提升节点分类性能。