Explaining the Explainers in Graph Neural Networks: a Comparative Study

要約

グラフ ベースの学習における初期の急速な進歩に続き、グラフ ニューラル ネットワーク (GNN) は多くの科学および工学分野で広く応用されるようになり、意思決定プロセスを理解する方法の必要性が高まっています。
近年、GNN エクスプローラーが登場し始めており、新しい方法や他のドメインから応用された方法が多数使用されています。
この多数の代替アプローチを整理するために、いくつかの研究がさまざまな説明可能性の指標の観点からさまざまな説明者のパフォーマンスをベンチマークしました。
ただし、これらの初期の研究では、さまざまな GNN アーキテクチャが多かれ少なかれ説明可能である理由や、特定の設定でどの説明器が優先されるべきかについての洞察を提供する試みはありません。
この調査では、体系的な実験研究を考案することでこれらのギャップを埋めます。この研究では、慎重に設計された 6 つのグラフおよびノー​​ド分類データセットでトレーニングされた 8 つの代表的なアーキテクチャについて 10 人の説明者をテストします。
私たちの結果から、GNN エクスプローラーの選択と適用性に関する重要な洞察を提供し、GNN エクスプローラーを使いやすく成功させる主要なコンポーネントを分離し、よくある解釈の落とし穴を回避する方法についての推奨事項を提供します。
最後に、未解決の疑問と将来の研究の可能性について強調して終わります。

要約(オリジナル)

Following a fast initial breakthrough in graph based learning, Graph Neural Networks (GNNs) have reached a widespread application in many science and engineering fields, prompting the need for methods to understand their decision process. GNN explainers have started to emerge in recent years, with a multitude of methods both novel or adapted from other domains. To sort out this plethora of alternative approaches, several studies have benchmarked the performance of different explainers in terms of various explainability metrics. However, these earlier works make no attempts at providing insights into why different GNN architectures are more or less explainable, or which explainer should be preferred in a given setting. In this survey, we fill these gaps by devising a systematic experimental study, which tests ten explainers on eight representative architectures trained on six carefully designed graph and node classification datasets. With our results we provide key insights on the choice and applicability of GNN explainers, we isolate key components that make them usable and successful and provide recommendations on how to avoid common interpretation pitfalls. We conclude by highlighting open questions and directions of possible future research.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google