Reliable Representations Make A Stronger Defender: Unsupervised Structure Refinement for Robust GNN

要約

タイトル：ロバストGNNのための非教師付き構造最適化：信頼性のある表現が強力な防御を実現する

要約：

– GNN（グラフ・ニューラル・ネットワーク）は、メッセージパッシングのメカニズムを利用して、グラフデータ上のさまざまなタスクで成功を収めてきた。
– しかし、最近の研究では、攻撃者がグラフの構造を意図的に変更することで、GNNの性能を劇的に低下させることができることが分かっている。
– この問題を解決するための直接的な解決策は、2つの端末ノードのペアごとの表現間のメトリック関数を学習して、攻撃的なエッジに低い重みを割り当てることでエッジの重みをモデル化することである。
– 既存の方法は、エッジの重みをモデル化するために、生のフィーチャーまたは教師付きGNNによって学習された表現のどちらかを使用する。
– しかし、生のフィーチャーはノードのさまざまな特性（例えば、構造情報など）を表現できず、教師付きGNNによって学習された表現は、攻撃されたグラフ上で分類器の性能が低下する可能性がある。
– 我々は、特徴情報と可能な限り正確な構造情報の両方を持ち、構造的な摂動に対して不感性な表現が必要である。
– このため、我々はSTABLEという非教師付きのパイプラインを提案し、グラフ構造を最適化する。
– 最終的に、よく最適化されたグラフを後続の分類器に入力する。このために、時間の複雑さを増加させることなく、バニラGCNのロバスト性を大幅に向上させる高度なGCNを設計した。
– 4つの実世界のグラフベンチマークでの広範な実験により、STABLEは既存の最先端の方法を上回り、さまざまな攻撃に対して成功裏に防御することができることが示された。

要約(オリジナル)

Benefiting from the message passing mechanism, Graph Neural Networks (GNNs) have been successful on flourish tasks over graph data. However, recent studies have shown that attackers can catastrophically degrade the performance of GNNs by maliciously modifying the graph structure. A straightforward solution to remedy this issue is to model the edge weights by learning a metric function between pairwise representations of two end nodes, which attempts to assign low weights to adversarial edges. The existing methods use either raw features or representations learned by supervised GNNs to model the edge weights. However, both strategies are faced with some immediate problems: raw features cannot represent various properties of nodes (e.g., structure information), and representations learned by supervised GNN may suffer from the poor performance of the classifier on the poisoned graph. We need representations that carry both feature information and as mush correct structure information as possible and are insensitive to structural perturbations. To this end, we propose an unsupervised pipeline, named STABLE, to optimize the graph structure. Finally, we input the well-refined graph into a downstream classifier. For this part, we design an advanced GCN that significantly enhances the robustness of vanilla GCN without increasing the time complexity. Extensive experiments on four real-world graph benchmarks demonstrate that STABLE outperforms the state-of-the-art methods and successfully defends against various attacks.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI