Exact Computation of Any-Order Shapley Interactions for Graph Neural Networks

要約

グラフ構造データを含む機械学習（ML）予測タスクにおけるグラフニューラルネットワーク（GNNS）のユビキタスな使用にもかかわらず、その解釈可能性は依然として困難です。
説明可能な人工知能（XAI）では、Shapley値（SV）は、個々の機能のMLモデルの出力への貢献を定量化する主な方法です。
Shapley Interactions（SIS）は、複雑な予測モデルにおけるSVSの制限に対処するため、SVを特徴のグループに拡張します。
この作業では、複数のノード間のノードの寄与と相互作用を定量化するSISを使用したGNNの単一グラフ予測について説明します。
GNNアーキテクチャを活用することにより、ノード埋め込みの相互作用の構造がグラフ予測のために保存されていることを示します。
その結果、SISの指数関数的な複雑さは、受容フィールドのみに依存します。つまり、グラフの接続性と畳み込み層の数によって決定されるメッセージパス範囲です。
理論的な結果に基づいて、任意のオーダーSISを正確に計算するための効率的なアプローチであるGraphShap-IQを紹介します。
GraphShap-IQは、線形グローバルプーリングおよび出力層と組み合わせて、一般的なメッセージ通過手法に適用できます。
GraphShap-IQは、複数のベンチマークデータセットで正確なSISを計算する指数関数的な複雑さを大幅に減らすことを示しています。
正確な計算を超えて、一般的なGNNアーキテクチャに関するSISのGraphShap-IQ近似を評価し、既存のベースラインと比較します。
最後に、SI-Graphを使用して、実際の配水分布ネットワークと分子構造のSISを視覚化します。

要約(オリジナル)

Albeit the ubiquitous use of Graph Neural Networks (GNNs) in machine learning (ML) prediction tasks involving graph-structured data, their interpretability remains challenging. In explainable artificial intelligence (XAI), the Shapley Value (SV) is the predominant method to quantify contributions of individual features to a ML model’s output. Addressing the limitations of SVs in complex prediction models, Shapley Interactions (SIs) extend the SV to groups of features. In this work, we explain single graph predictions of GNNs with SIs that quantify node contributions and interactions among multiple nodes. By exploiting the GNN architecture, we show that the structure of interactions in node embeddings are preserved for graph prediction. As a result, the exponential complexity of SIs depends only on the receptive fields, i.e. the message-passing ranges determined by the connectivity of the graph and the number of convolutional layers. Based on our theoretical results, we introduce GraphSHAP-IQ, an efficient approach to compute any-order SIs exactly. GraphSHAP-IQ is applicable to popular message passing techniques in conjunction with a linear global pooling and output layer. We showcase that GraphSHAP-IQ substantially reduces the exponential complexity of computing exact SIs on multiple benchmark datasets. Beyond exact computation, we evaluate GraphSHAP-IQ’s approximation of SIs on popular GNN architectures and compare with existing baselines. Lastly, we visualize SIs of real-world water distribution networks and molecule structures using a SI-Graph.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google