On the Topology Awareness and Generalization Performance of Graph Neural Networks

要約

コンピューター ビジョンと機械学習の問題の多くは、グラフ ニューラル ネットワークにおけるグラフ上の学習タスクとしてモデル化されます。GNN は、グラフ構造データの表現を学習するための主要なツールとして登場しました。GNN の重要な特徴は、グラフ構造を入力として使用することで、
GNN のトポロジ認識として知られるグラフ固有のトポロジ特性 GNN の実証的な成功にも関わらず、特にデータが独立しており同一に分散しているという仮定から逸脱するノード レベルのタスクについては、汎化パフォーマンスに対するトポロジ認識の影響は未解明のままです。 IID の正確な定義と
特に異なるトポロジー特徴に関する GNN のトポロジー認識の特徴付けはまだ不明瞭である この論文では、あらゆるトポロジー特徴にわたる GNN のトポロジー認識を特徴付けるための包括的なフレームワークを紹介します このフレームワークを使用して、GNN 汎化パフォーマンスに対するトポロジー認識の影響を調査します 一般的な理論とは反対に
GNN のトポロジー認識を強化することは常に有利であると考えています。私たちの分析により、GNN のトポロジー認識を向上させる重要な洞察が明らかになりました。これは、一部のシナリオでは望ましくない可能性がある構造グループ全体にわたる不公平な一般化に誤ってつながる可能性があります。さらに、組み込みグラフを使用したケース スタディを実施します。
メトリクス さまざまなベンチマーク データセットの最短経路距離 このケーススタディの実証結果は、理論的な洞察を裏付けます さらに、グラフ アクティブ ラーニングのコールド スタート問題に取り組むためにフレームワークを使用することにより、フレームワークの実際的な適用可能性を実証します

要約(オリジナル)

Many computer vision and machine learning problems are modelled as learning tasks on graphs where graph neural networks GNNs have emerged as a dominant tool for learning representations of graph structured data A key feature of GNNs is their use of graph structures as input enabling them to exploit the graphs inherent topological properties known as the topology awareness of GNNs Despite the empirical successes of GNNs the influence of topology awareness on generalization performance remains unexplored, particularly for node level tasks that diverge from the assumption of data being independent and identically distributed IID The precise definition and characterization of the topology awareness of GNNs especially concerning different topological features are still unclear This paper introduces a comprehensive framework to characterize the topology awareness of GNNs across any topological feature Using this framework we investigate the effects of topology awareness on GNN generalization performance Contrary to the prevailing belief that enhancing the topology awareness of GNNs is always advantageous our analysis reveals a critical insight improving the topology awareness of GNNs may inadvertently lead to unfair generalization across structural groups which might not be desired in some scenarios Additionally we conduct a case study using the intrinsic graph metric the shortest path distance on various benchmark datasets The empirical results of this case study confirm our theoretical insights Moreover we demonstrate the practical applicability of our framework by using it to tackle the cold start problem in graph active learning

arxiv情報

提供元, 利用サービス

arxiv.jp, Google