一种用于GNN加速的全栈框架:通过分区-编译器-架构协同设计实现
《IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems》:A Full-Stack Framework for GNN Acceleration via Partition–Compiler–Architecture Co-Design
【字体:
大
中
小
】
时间:2026年04月23日
来源:IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems 2.9
编辑推荐:
针对图神经网络(GNN)的高执行成本问题,提出SwitchBlade框架通过协调设计分区、编译和硬件架构,解决异构算子模式和稀疏图数据访问挑战,在NVIDIA V100上实现1.85倍速度提升和19.03倍能耗节省,优于现有加速器。
摘要:
图神经网络(GNNs)在推荐系统和科学计算等领域取得了显著的成功,但其实际应用仍受到高执行成本的限制。GNN模型结构的多样性和现实世界图数据的稀疏性为硬件加速带来了两个根本性挑战:支持异构操作模式以及在数据访问不规则的情况下实现高资源利用率。现有的加速器通常只解决其中一个方面,要么针对特定模型设计固定流程的硬件,要么采用通用架构但效率有限。为了解决这些挑战,我们提出了SwitchBlade,这是一个全栈框架,通过协调设计分区、编译和架构来实现GNN加速。SwitchBlade通过三个关键组件来应对这些挑战。首先,基于阶段的中间表示形式通过抽象计算阶段来统一各种GNN模型,从而实现模型无关的代码生成。其次,细粒度的图划分器(GP)通过适应图拓扑结构和模型语义来提高数据局部性并减少内存流量。第三,硬件架构支持流级并行性和解耦执行,以利用跨分片和跨阶段的并发性。在代表性模型和数据集上的评估表明,SwitchBlade相比NVIDIA V100 GPU实现了高达1.85×的加速比和19.03×的能量节省,同时在多种全图工作负载上超越了最先进的GNN加速器(GAs),证明了其高效率和广泛的模型通用性。
引言
随着研究人员将图的概念整合到深度学习(DL)中[46],图神经网络(GNNs)获得了显著的发展势头。通过结合DL的学习能力和图的结构表达能力,GNNs在包括分子建模[15]、推荐系统[52]和交通分析[38]在内的多个领域实现了卓越的准确性。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号