PyGim: An Efficient Graph Neural Network Library for Real Processing-In-Memory Architectures

要約

グラフ ニューラル ネットワーク (GNN) は、グラフ構造データを分析するための新しい ML モデルです。
グラフ ニューラル ネットワーク (GNN) の実行には、計算集約型カーネルとメモリ集約型カーネルの両方が含まれます。後者が合計時間の大部分を占め、メモリとプロセッサ間のデータ移動が大幅なボトルネックとなります。
Processing-In-Memory (PIM) システムは、単純なプロセッサをメモリ アレイの近くまたは内部に配置することで、このデータ移動のボトルネックを軽減できます。
この作業では、実際の PIM システム上で GNN を高速化する効率的な ML ライブラリである PyGim を紹介します。
実際の PIM システムに合わせて調整された GNN のメモリ集約型カーネルのためのインテリジェントな並列化手法を提案し、そのための便利な Python API を開発します。
当社は、ハイブリッド GNN 実行を提供します。このハイブリッド GNN 実行では、計算集中型カーネルとメモリ集中型カーネルが、それぞれプロセッサ中心のコンピューティング システムとメモリ中心のコンピューティング システムで実行されます。
私たちは、新しい GNN モデルを使用して 1992 個の PIM コアを備えた実際の PIM システム上で PyGim を広範囲に評価し、Intel Xeon 上の同等の最先端の CPU よりも平均 3.04 倍優れたパフォーマンスを示し、より高いリソース使用率を達成することを実証しました。
CPU および GPU システム。
私たちの仕事は、ソフトウェア、システム、ハードウェアの設計者に役立つ推奨事項を提供します。
PyGim は https://github.com/CMU-SAFARI/PyGim で公開されています。

要約(オリジナル)

Graph Neural Networks (GNNs) are emerging ML models to analyze graph-structure data. Graph Neural Network (GNN) execution involves both compute-intensive and memory-intensive kernels, the latter dominates the total time, being significantly bottlenecked by data movement between memory and processors. Processing-In-Memory (PIM) systems can alleviate this data movement bottleneck by placing simple processors near or inside to memory arrays. In this work, we introduce PyGim, an efficient ML library that accelerates GNNs on real PIM systems. We propose intelligent parallelization techniques for memory-intensive kernels of GNNs tailored for real PIM systems, and develop handy Python API for them. We provide hybrid GNN execution, in which the compute-intensive and memory-intensive kernels are executed in processor-centric and memory-centric computing systems, respectively. We extensively evaluate PyGim on a real-world PIM system with 1992 PIM cores using emerging GNN models, and demonstrate that it outperforms its state-of-the-art CPU counterpart on Intel Xeon by on average 3.04x, and achieves higher resource utilization than CPU and GPU systems. Our work provides useful recommendations for software, system and hardware designers. PyGim is publicly available at https://github.com/CMU-SAFARI/PyGim.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google