SAGMAN: Stability Analysis of Graph Neural Networks on the Manifolds

要約

最新のグラフ ニューラル ネットワーク (GNN) は、入力グラフ構造とノード機能の変化に敏感な場合があり、その結果、予測不可能な動作やパフォーマンスの低下が発生する可能性があります。
この研究では、GNN の安定性を調べるために SAGMAN として知られるスペクトル フレームワークを導入します。
このフレームワークは、入力多様体と出力多様体の間の GNN の非線形マッピングから生じる距離の歪みを評価します。入力多様体上の 2 つの近くのノードが (GNN モデルを通じて) 出力多様体上の 2 つの離れたノードにマッピングされる場合、それは大きな歪みを意味します。
距離歪みが発生し、GNN の安定性が低下します。
我々は、スペクトルグラフの埋め込みと確率的グラフィカルモデル（PGM）を利用して、有意義な安定性解析のための低次元入出力グラフベースの多様体を作成する、距離保存グラフ次元削減（GDR）アプローチを提案します。
私たちの経験的評価は、SAGMAN がさまざまなエッジまたはフィーチャの摂動にさらされたときに各ノードの安定性を効果的に評価し、GNN の安定性を評価するためのスケーラブルなアプローチを提供し、推奨システム内のアプリケーションに拡張できることを示しています。
さらに、下流のタスク、特に GNN の安定性の向上と敵対的標的型攻撃の促進におけるその有用性を説明します。

要約(オリジナル)

Modern graph neural networks (GNNs) can be sensitive to changes in the input graph structure and node features, potentially resulting in unpredictable behavior and degraded performance. In this work, we introduce a spectral framework known as SAGMAN for examining the stability of GNNs. This framework assesses the distance distortions that arise from the nonlinear mappings of GNNs between the input and output manifolds: when two nearby nodes on the input manifold are mapped (through a GNN model) to two distant ones on the output manifold, it implies a large distance distortion and thus a poor GNN stability. We propose a distance-preserving graph dimension reduction (GDR) approach that utilizes spectral graph embedding and probabilistic graphical models (PGMs) to create low-dimensional input/output graph-based manifolds for meaningful stability analysis. Our empirical evaluations show that SAGMAN effectively assesses the stability of each node when subjected to various edge or feature perturbations, offering a scalable approach for evaluating the stability of GNNs, extending to applications within recommendation systems. Furthermore, we illustrate its utility in downstream tasks, notably in enhancing GNN stability and facilitating adversarial targeted attacks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google