On the Expressive Power of Graph Neural Networks

要約

グラフ・ニューラル・ネットワークの研究は、ここ数年大きな関心を集めている。ディープラーニングをグラフ構造データに拡張することで、GNNは社会科学、化学、医学などの分野における多様なタスクを解決することができる。GNNアーキテクチャの開発は、主にノードやグラフの分類のようなタスクにおける経験的性能の向上に焦点が当てられてきた。しかし、最近の一連の研究は、その代わりに、望ましい理論的特性を持つGNNアーキテクチャを見つけようとするものであり、その表現力を研究し、この表現力を最大化するアーキテクチャを設計することである。 GNNの表現力を定義する最良の方法についてのコンセンサスはないが、いくつかの動機づけられた観点から見ることができる。おそらく最も自然なアプローチは、MLPで広く研究されているように、GNNの普遍的な近似特性を研究することであろう。もう1つの方向性は、GNNがどの程度異なるグラフ構造を区別できるかに焦点を当て、これをグラフ同型性テストと関連付けることである。さらに、グラフモーメントなどのグラフ特性を計算するGNNの能力も、表現力のもう一つの形として提案されている。これらの異なる定義はすべて補完的であり、GNNアーキテクチャの選択に対して異なる推奨をもたらした。本稿では、GNNの「表現力」の概念を概観し、GNNの設計選択に関する貴重な洞察を提供したい。

要約(オリジナル)

The study of Graph Neural Networks has received considerable interest in the past few years. By extending deep learning to graph-structured data, GNNs can solve a diverse set of tasks in fields including social science, chemistry, and medicine. The development of GNN architectures has largely been focused on improving empirical performance on tasks like node or graph classification. However, a line of recent work has instead sought to find GNN architectures that have desirable theoretical properties – by studying their expressive power and designing architectures that maximize this expressiveness. While there is no consensus on the best way to define the expressiveness of a GNN, it can be viewed from several well-motivated perspectives. Perhaps the most natural approach is to study the universal approximation properties of GNNs, much in the way that this has been studied extensively for MLPs. Another direction focuses on the extent to which GNNs can distinguish between different graph structures, relating this to the graph isomorphism test. Besides, a GNN’s ability to compute graph properties such as graph moments has been suggested as another form of expressiveness. All of these different definitions are complementary and have yielded different recommendations for GNN architecture choices. In this paper, we would like to give an overview of the notion of ‘expressive power’ of GNNs and provide some valuable insights regarding the design choices of GNNs.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL