A Complete Expressiveness Hierarchy for Subgraph GNNs via Subgraph Weisfeiler-Lehman Tests

要約

最近、サブグラフ GNN は、表現力豊かなグラフ ニューラル ネットワーク (GNN) を開発するための重要な方向性として浮上しています。
数多くのアーキテクチャが提案されていますが、これまでのところ、さまざまな設計パラダイムが表現力の点でどのように異なるかについての理解はまだ限られており、アーキテクチャの複雑さを最小限に抑えて最大の表現力を実現する設計原理も明らかではありません。
これらの基本的な問題に対処するために、このホワイト ペーパーでは、サブグラフ Weisfeiler-Lehman Tests (SWL) のレンズを通して、一般的なノード ベースのサブグラフ GNN の体系的な研究を行います。
私たちの中心的な結果は、SWL の完全な階層を構築し、厳密に表現力を高めることです。
具体的には、任意のノードベースのサブグラフ GNN が 6 つの SWL 等価クラスの 1 つに分類され、その中で $\mathsf{SSWL}$ が最大の表現力を達成することを証明します。
また、これらの等価クラスが、グラフ距離のエンコードや二重接続性などの実際の表現力の点でどのように異なるかを調べます。
さらに、WL および Folklore WL (FWL) テストのローカライズされたバージョンとの密接な関係を確立することにより、すべての SWL アルゴリズムの厳密な表現性の上限を与えます。
私たちの結果は、既存のサブグラフ GNN の能力に関する洞察を提供し、新しいアーキテクチャの設計を導き、2-FWL テストとの固有のギャップを明らかにすることでそれらの限界を指摘します。
最後に、実験により、$\mathsf{SSWL}$ にインスパイアされたサブグラフ GNN は、非常にシンプルであるにもかかわらず、複数のベンチマークで以前のアーキテクチャよりも大幅に優れていることが示されています。

要約(オリジナル)

Recently, subgraph GNNs have emerged as an important direction for developing expressive graph neural networks (GNNs). While numerous architectures have been proposed, so far there is still a limited understanding of how various design paradigms differ in terms of expressive power, nor is it clear what design principle achieves maximal expressiveness with minimal architectural complexity. To address these fundamental questions, this paper conducts a systematic study of general node-based subgraph GNNs through the lens of Subgraph Weisfeiler-Lehman Tests (SWL). Our central result is to build a complete hierarchy of SWL with strictly growing expressivity. Concretely, we prove that any node-based subgraph GNN falls into one of the six SWL equivalence classes, among which $\mathsf{SSWL}$ achieves the maximal expressive power. We also study how these equivalence classes differ in terms of their practical expressiveness such as encoding graph distance and biconnectivity. Furthermore, we give a tight expressivity upper bound of all SWL algorithms by establishing a close relation with localized versions of WL and Folklore WL (FWL) tests. Our results provide insights into the power of existing subgraph GNNs, guide the design of new architectures, and point out their limitations by revealing an inherent gap with the 2-FWL test. Finally, experiments demonstrate that $\mathsf{SSWL}$-inspired subgraph GNNs can significantly outperform prior architectures on multiple benchmarks despite great simplicity.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google