Technical report: Graph Neural Networks go Grammatical

要約

この論文では、代数言語の一部とグラフ ニューラル ネットワーク (GNN) の間の接続を正式に確立するためのフレームワークを紹介します。
このフレームワークは、コンテキストフリー文法 (CFG) を活用して、代数演算を GNN レイヤー モデルに変換できる生成ルールに編成します。
言語から直接派生した CFG はルールや変数に冗長性が含まれる傾向があるため、文法削減スキームを提示します。
この戦略を適用することにより、MATLANG を使用して 3 次 Weisfeiler-Lehman (3-WL) 検定に準拠する CFG を定義します。
この 3-WL CFG から、G$^2$N$^2$ という名前の GNN モデルを導出します。これはおそらく 3-WL に準拠しています。
さまざまな実験を通じて、多数の下流タスクにわたって、他の 3-WL GNN と比較して G$^2$N$^2$ の効率が優れていることを実証しました。
具体的には、ある実験では、私たちのフレームワーク内での文法削減の利点が強調されています。

要約(オリジナル)

This paper introduces a framework for formally establishing a connection between a portion of an algebraic language and a Graph Neural Network (GNN). The framework leverages Context-Free Grammars (CFG) to organize algebraic operations into generative rules that can be translated into a GNN layer model. As CFGs derived directly from a language tend to contain redundancies in their rules and variables, we present a grammar reduction scheme. By applying this strategy, we define a CFG that conforms to the third-order Weisfeiler-Lehman (3-WL) test using MATLANG. From this 3-WL CFG, we derive a GNN model, named G$^2$N$^2$, which is provably 3-WL compliant. Through various experiments, we demonstrate the superior efficiency of G$^2$N$^2$ compared to other 3-WL GNNs across numerous downstream tasks. Specifically, one experiment highlights the benefits of grammar reduction within our framework.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google