SFR-GNN: Simple and Fast Robust GNNs against Structural Attacks

要約

グラフ ニューラル ネットワーク (GNN) は、グラフ構造データに対して優れたパフォーマンスを実証しました。
しかし、GNN は埋め込み生成がグラフ トポロジに依存しているため、敵対的な構造攻撃に対して脆弱であることがよくあります。
既存の取り組みは、悪意を持って変更された構造を浄化するか、適応型集約を適用することに専念しており、それによって敵対的な構造攻撃に対する堅牢性が強化されています。
変更された構造に関する事前知識が不足しているため、防御側が多大な計算コストを消費することは避けられません。
この目的を達成するために、我々は、相互情報理論に裏付けられた、シンプルで高速なロバスト グラフ ニューラル ネットワーク (SFR-GNN) と呼ばれる効率的な防御方法を提案します。
SFR-GNN は、最初にノード属性を使用して GNN モデルを事前トレーニングし、次に対照学習の方法で変更されたグラフ上で微調整します。これにより、変更された構造の純化や適応的な集約が不要となり、大幅な効率向上が達成されます。
その結果、SFR-GNN は高度なロバスト モデルと比較して 24% ～ 162% の高速化を示し、ノード分類タスクに対する優れたロバスト性を示しています。

要約(オリジナル)

Graph Neural Networks (GNNs) have demonstrated commendable performance for graph-structured data. Yet, GNNs are often vulnerable to adversarial structural attacks as embedding generation relies on graph topology. Existing efforts are dedicated to purifying the maliciously modified structure or applying adaptive aggregation, thereby enhancing the robustness against adversarial structural attacks. It is inevitable for a defender to consume heavy computational costs due to lacking prior knowledge about modified structures. To this end, we propose an efficient defense method, called Simple and Fast Robust Graph Neural Network (SFR-GNN), supported by mutual information theory. The SFR-GNN first pre-trains a GNN model using node attributes and then fine-tunes it over the modified graph in the manner of contrastive learning, which is free of purifying modified structures and adaptive aggregation, thus achieving great efficiency gains. Consequently, SFR-GNN exhibits a 24%–162% speedup compared to advanced robust models, demonstrating superior robustness for node classification tasks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google