Hierarchical GNNs for Large Graph Generation

要約

大きなグラフは、いくつか例を挙げると、ソーシャル ネットワーク、民間インフラ、物理科学など、さまざまな領域に存在します。
グラフ生成も同様に広く普及しており、特に創薬、ネットワーク分析、合成データセットなどに応用されています。
GNN (グラフ ニューラル ネットワーク) モデルはこれらのドメインに適用されていますが、メモリ内コストが高いため、小さなグラフに限定されています。
逆に、より低コストのルールベースの方法は、複雑な構造を再現するのに苦労します。
我々は、現実的な局所構造を持つ大規模なグラフを生成するモデルに依存しないフレームワークとして HIGGS (Hierarchical Generation of Graphs) を提案します。
HIGGS は、条件付き生成機能を備えた GNN モデルを使用して、解像度の階層でグラフをサンプリングします。
結果として、HIGGS は、特定の GNN モデルから生成されるグラフのスケールを 2 次オーダーで拡張する能力を備えています。
デモンストレーションとして、新しいエッジ予測拡散バリアントedge-DiGressを含む最近のグラフ拡散モデルであるDiGressを使用してHIGGSを実装します。
この実装を使用して、数万のノードを含むカテゴリ属性のグラフを生成します。
これらの HIGGS 生成グラフは、GNN を使用して以前に生成されたグラフよりもはるかに大きくなります。
このスケールの飛躍にもかかわらず、HIGGS によって生成されたグラフは、局所スケールでは、ルールベースのモデル BTER から生成されたグラフよりも現実的であることを示します。

要約(オリジナル)

Large graphs are present in a variety of domains, including social networks, civil infrastructure, and the physical sciences to name a few. Graph generation is similarly widespread, with applications in drug discovery, network analysis and synthetic datasets among others. While GNN (Graph Neural Network) models have been applied in these domains their high in-memory costs restrict them to small graphs. Conversely less costly rule-based methods struggle to reproduce complex structures. We propose HIGGS (Hierarchical Generation of Graphs) as a model-agnostic framework of producing large graphs with realistic local structures. HIGGS uses GNN models with conditional generation capabilities to sample graphs in hierarchies of resolution. As a result HIGGS has the capacity to extend the scale of generated graphs from a given GNN model by quadratic order. As a demonstration we implement HIGGS using DiGress, a recent graph-diffusion model, including a novel edge-predictive-diffusion variant edge-DiGress. We use this implementation to generate categorically attributed graphs with tens of thousands of nodes. These HIGGS generated graphs are far larger than any previously produced using GNNs. Despite this jump in scale we demonstrate that the graphs produced by HIGGS are, on the local scale, more realistic than those from the rule-based model BTER.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google