Spear and Shield: Adversarial Attacks and Defense Methods for Model-Based Link Prediction on Continuous-Time Dynamic Graphs

要約

現実世界のグラフは動的であり、金融​​ネットワークでの金融取引などの新しいインタラクションに応じて常に進化しています。
テンポラル グラフ ニューラル ネットワーク (TGNN) は、動的グラフの進化するパターンを効果的に捕捉するために開発されました。
これらのモデルは、さまざまな重要な分野で広く採用され、その優位性を実証していますが、敵対的攻撃に対する脆弱性はほとんど解明されていません。
本稿では、TGNN の脆弱性の調査に焦点を当て、連続時間動的グラフ上のリンク予測のためのシンプルかつ効果的な敵対的攻撃手法である T-SPEAR を提案します。
具体的には、リンク予測用の TGNN であるビクティム モデルのトレーニング手順の前に、提案する 4 つの制約に関しては目立たないものの、ビクティム モデルの誤動作を引き起こすのに十分な効果があるエッジ摂動をデータに注入します。
さらに、敵対的攻撃の影響を軽減するための堅牢なトレーニング アプローチ T-SHIELD を提案します。
エッジ フィルタリングを使用し、ノードの埋め込みに時間的平滑性を適用することで、犠牲モデルの堅牢性が強化されます。
私たちの実験研究では、T-SPEAR がリンク予測タスクにおける被害者モデルのパフォーマンスを大幅に低下させ、さらに攻撃者が想定した被害者モデルとは異なる他の TGNN に攻撃が転送可能であることが示されています。
さらに、T-SHIELD が敵対的なエッジを効果的にフィルタリングし、敵対的な攻撃に対する堅牢性を示し、T-SPEAR のもとでの単純な TGNN のリンク予測パフォーマンスを最大 11.2% 上回ることを実証します。

要約(オリジナル)

Real-world graphs are dynamic, constantly evolving with new interactions, such as financial transactions in financial networks. Temporal Graph Neural Networks (TGNNs) have been developed to effectively capture the evolving patterns in dynamic graphs. While these models have demonstrated their superiority, being widely adopted in various important fields, their vulnerabilities against adversarial attacks remain largely unexplored. In this paper, we propose T-SPEAR, a simple and effective adversarial attack method for link prediction on continuous-time dynamic graphs, focusing on investigating the vulnerabilities of TGNNs. Specifically, before the training procedure of a victim model, which is a TGNN for link prediction, we inject edge perturbations to the data that are unnoticeable in terms of the four constraints we propose, and yet effective enough to cause malfunction of the victim model. Moreover, we propose a robust training approach T-SHIELD to mitigate the impact of adversarial attacks. By using edge filtering and enforcing temporal smoothness to node embeddings, we enhance the robustness of the victim model. Our experimental study shows that T-SPEAR significantly degrades the victim model’s performance on link prediction tasks, and even more, our attacks are transferable to other TGNNs, which differ from the victim model assumed by the attacker. Moreover, we demonstrate that T-SHIELD effectively filters out adversarial edges and exhibits robustness against adversarial attacks, surpassing the link prediction performance of the naive TGNN by up to 11.2% under T-SPEAR.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google