A Complete Expressiveness Hierarchy for Subgraph GNNs via Subgraph Weisfeiler-Lehman Tests

要約

最近、サブグラフ GNN は、表現力豊かなグラフ ニューラル ネットワーク (GNN) を開発するための重要な方向性として浮上しています。
数多くのアーキテクチャが提案されていますが、これまでのところ、さまざまな設計パラダイムが表現力の点でどのように異なるかについての理解はまだ限られており、アーキテクチャの複雑さを最小限に抑えて最大の表現力を実現する設計原理も明らかではありません。
これらの基本的な問題を対象として、このホワイト ペーパーでは、サブグラフ Weisfeiler-Lehman Tests (SWL) のレンズを通して、一般的なノード ベースのサブグラフ GNN の体系的な研究を行います。
私たちの中心的な結果は、SWL の完全な階層を構築し、厳密に表現力を高めることです。
具体的には、任意のノードベースのサブグラフ GNN が 6 つの SWL 等価クラスの 1 つに分類され、その中で $\mathsf{SSWL}$ が最大の表現力を達成することを証明します。
また、これらの等価クラスが、グラフ距離のエンコードや二重接続性などの実際の表現力の点でどのように異なるかを調べます。
さらに、Folklore WL テスト (FWL) のローカライズされたバージョンとの密接な関係を確立することにより、すべての SWL アルゴリズムの厳密な表現性の上限を与えます。
全体として、私たちの結果は、既存のサブグラフ GNN の能力に関する洞察を提供し、新しいアーキテクチャの設計を導き、2-FWL テストとの固有のギャップを明らかにすることでそれらの限界を指摘します。
最後に、ZINC ベンチマークでの実験は、$\mathsf{SSWL}$ にインスパイアされたサブグラフ GNN が、非常にシンプルであるにもかかわらず、以前のアーキテクチャよりも大幅に優れていることを示しています。

要約(オリジナル)

Recently, subgraph GNNs have emerged as an important direction for developing expressive graph neural networks (GNNs). While numerous architectures have been proposed, so far there is still a limited understanding of how various design paradigms differ in terms of expressive power, nor is it clear what design principle achieves maximal expressiveness with minimal architectural complexity. Targeting these fundamental questions, this paper conducts a systematic study of general node-based subgraph GNNs through the lens of Subgraph Weisfeiler-Lehman Tests (SWL). Our central result is to build a complete hierarchy of SWL with strictly growing expressivity. Concretely, we prove that any node-based subgraph GNN falls into one of the six SWL equivalence classes, among which $\mathsf{SSWL}$ achieves the maximal expressive power. We also study how these equivalence classes differ in terms of their practical expressiveness such as encoding graph distance and biconnectivity. In addition, we give a tight expressivity upper bound of all SWL algorithms by establishing a close relation with localized versions of Folklore WL tests (FWL). Overall, our results provide insights into the power of existing subgraph GNNs, guide the design of new architectures, and point out their limitations by revealing an inherent gap with the 2-FWL test. Finally, experiments on the ZINC benchmark demonstrate that $\mathsf{SSWL}$-inspired subgraph GNNs can significantly outperform prior architectures despite great simplicity.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google