GNNBuilder: An Automated Framework for Generic Graph Neural Network Accelerator Generation, Simulation, and Optimization

要約

多くのグラフ ニューラル ネットワーク (GNN) アクセラレータが提案されています。
ただし、ユーザーのハードウェアの専門知識に大きく依存しており、通常は特定の GNN モデル用に最適化されているため、実際の使用は困難です。
したがって、この作業では、最初の自動化された汎用のエンドツーエンド GNN アクセラレータ生成フレームワークである GNNBuilder を提案します。
4 つの利点があります。(1) GNNBuilder は、ユーザーが任意に定義した幅広い GNN モデルの GNN アクセラレータを自動的に生成できます。
(2) GNNBuilder は、標準の PyTorch プログラミング インターフェイスを採用し、アルゴリズム開発者のオーバーヘッドをゼロにします。
(3) GNNBuilder は、エンド ツー エンドのコード生成、シミュレーション、アクセラレータの最適化、およびハードウェアの展開をサポートし、GNN アクセラレータ設計のボタンを押すだけの方法を実現します。
(4) GNNBuilder には、生成されたアクセラレータの正確なパフォーマンス モデルが装備されており、迅速かつ柔軟なデザイン スペース探索 (DSE) が可能になります。
実験では、まず、アクセラレータ パフォーマンス モデルのエラーが、レイテンシ予測で $36\%$ 以内、BRAM カウント予測で $18\%$ 以内であることを示しています。
次に、生成されたアクセラレータが CPU を $6.33\times$、GPU を $6.87\times$ 上回るパフォーマンスを発揮できることを示します。
このフレームワークはオープンソースであり、コードは https://anonymous.4open.science/r/gnn-builder-83B4/ で入手できます。

要約(オリジナル)

There are plenty of graph neural network (GNN) accelerators being proposed. However, they highly rely on users’ hardware expertise and are usually optimized for one specific GNN model, making them challenging for practical use . Therefore, in this work, we propose GNNBuilder, the first automated, generic, end-to-end GNN accelerator generation framework. It features four advantages: (1) GNNBuilder can automatically generate GNN accelerators for a wide range of GNN models arbitrarily defined by users; (2) GNNBuilder takes standard PyTorch programming interface, introducing zero overhead for algorithm developers; (3) GNNBuilder supports end-to-end code generation, simulation, accelerator optimization, and hardware deployment, realizing a push-button fashion for GNN accelerator design; (4) GNNBuilder is equipped with accurate performance models of its generated accelerator, enabling fast and flexible design space exploration (DSE). In the experiments, first, we show that our accelerator performance model has errors within $36\%$ for latency prediction and $18\%$ for BRAM count prediction. Second, we show that our generated accelerators can outperform CPU by $6.33\times$ and GPU by $6.87\times$. This framework is open-source, and the code is available at https://anonymous.4open.science/r/gnn-builder-83B4/.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google