On the Relationship Between Robustness and Expressivity of Graph Neural Networks

要約

アーキテクチャの特徴、グラフ特性、およびそれらの相互作用の影響を研究するために分析フレームワークを導入することにより、グラフニューラルネットワーク（GNNS）のビットフリップ攻撃（BFA）の脆弱性を調査します。
GNNSの表現力は、非異性グラフを区別する能力を指し、ノード近傍のエンコードに依存します。
この目的に一般的に使用される神経マルチセット機能の脆弱性を調べ、BFAによる表現力を失うGNNの感受性を特徴付ける正式な基準を確立します。
これにより、GNNの堅牢性に対する同性愛、グラフ構造の多様性、特徴エンコーディング、および活性化機能の影響を分析できます。
データセット上のGNN表現性を分解するために必要なビットフリップの数の理論的境界を導き出し、低次元または1ホットのエンコードされた機能を特に敏感なものとして非常に同性愛のグラフで動作する再生活性化GNNを識別します。
10個の実際のデータセットを使用した経験的結果は、主要な理論的洞察の統計的有意性を確認し、表現力が批判的なアプリケーションにおけるBFAリスクを軽減するための実用的な結果を提供します。

要約(オリジナル)

We investigate the vulnerability of Graph Neural Networks (GNNs) to bit-flip attacks (BFAs) by introducing an analytical framework to study the influence of architectural features, graph properties, and their interaction. The expressivity of GNNs refers to their ability to distinguish non-isomorphic graphs and depends on the encoding of node neighborhoods. We examine the vulnerability of neural multiset functions commonly used for this purpose and establish formal criteria to characterize a GNN’s susceptibility to losing expressivity due to BFAs. This enables an analysis of the impact of homophily, graph structural variety, feature encoding, and activation functions on GNN robustness. We derive theoretical bounds for the number of bit flips required to degrade GNN expressivity on a dataset, identifying ReLU-activated GNNs operating on highly homophilous graphs with low-dimensional or one-hot encoded features as particularly susceptible. Empirical results using ten real-world datasets confirm the statistical significance of our key theoretical insights and offer actionable results to mitigate BFA risks in expressivity-critical applications.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google