The expressive power of pooling in Graph Neural Networks

要約

タイトル：Graph Neural NetworksにおけるPoolingの表現力

要約：Graph Neural Networks（GNN）において、階層的なプーリング演算子は、グラフ構造と頂点の特徴のローカルサマリーを作成することによって、入力データの粗い表現を生成する。GNNにおけるメッセージパッシング層の表現力については、多大な注目が集まっているが、プーリング演算子がGNNの表現力にどのように影響を与えるかについての研究はまだ足りない。さらに、効果的なプーリング演算子の設計において最近進歩があるものの、それらを比較するための原理的な基準がない。本研究は、GNNの前のメッセージパッシング層の表現力を完全に保持するプーリング演算子の十分条件を提供することによってこのギャップを埋めることを目的としている。これらの条件は、既存のプーリング演算子の選択または新しい演算子の設計のための普遍的かつ理論的に根拠のある基準として機能する。理論的な見出しに基づいて、いくつかの存在するプーリング演算子を調べ、表現力の仮定を満たさない演算子を特定した。最後に、グラフ同型性テストを実行する能力という観点で、プーリング層を備えたGNNの表現力を実験的に測定するための実験セットアップを紹介した。

要点：

– GNNにおけるメッセージパッシング層の表現力についての研究があるが、プーリング演算子の表現力についての研究は不十分である。
– 効果的なプーリング演算子の設計において最近進歩があるものの、それらを比較するための原理的な基準がない。
– 本研究では、プーリング演算子の十分条件を提供することによって、GNNの前のメッセージパッシング層の表現力を完全に保持することを目的としている。
– 提供された条件は、既存のプーリング演算子の選択または新しい演算子の設計のための普遍的かつ理論的に根拠のある基準として機能する。
– GNNにおけるいくつかのプーリング演算子を調べ、表現力の仮定を満たさない演算子を特定した。
– 実験的に、プーリング層を備えたGNNの表現力をグラフ同型性テストを実行する能力という観点で測定するための実験セットアップを紹介した。

要約(オリジナル)

In Graph Neural Networks (GNNs), hierarchical pooling operators generate a coarser representation of the input data by creating local summaries of the graph structure and its vertex features. Considerable attention has been devoted to studying the expressive power of message-passing (MP) layers in GNNs, while a study on how pooling operators affect the expressivity of a GNN is still lacking. Additionally, despite the recent advances in the design of effective pooling operators, there is not a principled criterion to compare them. Our work aims to fill this gap by providing sufficient conditions for a pooling operator to fully preserve the expressive power of the MP layers before it. These conditions serve as a universal and theoretically-grounded criterion for choosing among existing pooling operators or designing new ones. Based on our theoretical findings, we reviewed several existing pooling operators and identified those that fail to satisfy the expressiveness assumptions. Finally, we introduced an experimental setup to empirically measure the expressive power of a GNN equipped with pooling layers, in terms of its capability to perform a graph isomorphism test.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI