Subgraph Aggregation for Out-of-Distribution Generalization on Graphs

要約

グラフ ニューラル ネットワーク (GNN) における分布外 (OOD) 一般化は、現実世界のシナリオにおけるグラフベースの予測において非常に重要であるため、大きな注目を集めています。
既存の方法は、一般化可能な予測を達成するために入力グラフから単一の因果サブグラフを抽出することに主に焦点を当てています。
ただし、単一のサブグラフに依存すると、偽の相関が発生しやすくなる可能性があり、グラフ データの背後にある不変パターンを学習するには不十分です。
さらに、分子特性予測などの多くの実世界のアプリケーションでは、複数の重要なサブグラフがターゲットのラベル特性に影響を与える可能性があります。
これらの課題に対処するために、グラフ上の OOD 一般化に重要なサブグラフの多様なセットを学習するように設計された新しいフレームワークである SubGraph Aggregation (SuGAr) を提案します。
具体的には、SuGAr は、調整されたサブグラフ サンプラーと多様性正則化機能を使用して、不変サブグラフの多様なセットを抽出します。
これらの不変サブグラフは、その表現を平均することによって集約され、これによりサブグラフ信号が強化され、基礎となる因果構造の範囲が強化され、それによって OOD 一般化が向上します。
合成データセットと現実世界のデータセットの両方に対する広範な実験により、当社のデータセットが最先端の手法を上回るパフォーマンスを示し、グラフ上の OOD 一般化で最大 24% の改善を達成したことが実証されました。
私たちの知る限り、これは複数の不変サブグラフを学習することによってグラフ OOD 一般化を研究した最初の研究です。

要約(オリジナル)

Out-of-distribution (OOD) generalization in Graph Neural Networks (GNNs) has gained significant attention due to its critical importance in graph-based predictions in real-world scenarios. Existing methods primarily focus on extracting a single causal subgraph from the input graph to achieve generalizable predictions. However, relying on a single subgraph can lead to susceptibility to spurious correlations and is insufficient for learning invariant patterns behind graph data. Moreover, in many real-world applications, such as molecular property prediction, multiple critical subgraphs may influence the target label property. To address these challenges, we propose a novel framework, SubGraph Aggregation (SuGAr), designed to learn a diverse set of subgraphs that are crucial for OOD generalization on graphs. Specifically, SuGAr employs a tailored subgraph sampler and diversity regularizer to extract a diverse set of invariant subgraphs. These invariant subgraphs are then aggregated by averaging their representations, which enriches the subgraph signals and enhances coverage of the underlying causal structures, thereby improving OOD generalization. Extensive experiments on both synthetic and real-world datasets demonstrate that \ours outperforms state-of-the-art methods, achieving up to a 24% improvement in OOD generalization on graphs. To the best of our knowledge, this is the first work to study graph OOD generalization by learning multiple invariant subgraphs.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google