The Intelligible and Effective Graph Neural Additive Networks

要約

グラフ ニューラル ネットワーク (GNN) は、グラフ構造のデータを学習するための主要なアプローチとして登場しました。
ただし、ほとんどの GNN はブラックボックス モデルとして動作し、事後的な説明を必要とするため、透明性が重要な一か八かのシナリオでは十分ではない可能性があります。
このペーパーでは、設計によって解釈可能な GNN を紹介します。
私たちのモデルであるグラフ ニューラル 加算ネットワーク (GNAN) は、一般化加算モデルの解釈可能なクラスを新たに拡張したもので、人間が視覚化して完全に理解することができます。
GNAN は完全に解釈可能であるように設計されており、モデルの直接の視覚化を通じて機能レベルとグラフ レベルでグローバルとローカルの両方の説明を提供します。
これらの視覚化は、モデルがターゲット変数、特徴、グラフの間の関係をどのように使用するかを正確に説明します。
さまざまなタスクとデータセットに関する一連の例で、GNAN の分かりやすさを示します。
さらに、GNAN の精度はブラックボックス GNN と同等であり、高い精度とともに透明性が不可欠な重要なアプリケーションに適していることを示します。

要約(オリジナル)

Graph Neural Networks (GNNs) have emerged as the predominant approach for learning over graph-structured data. However, most GNNs operate as black-box models and require post-hoc explanations, which may not suffice in high-stakes scenarios where transparency is crucial. In this paper, we present a GNN that is interpretable by design. Our model, Graph Neural Additive Network (GNAN), is a novel extension of the interpretable class of Generalized Additive Models, and can be visualized and fully understood by humans. GNAN is designed to be fully interpretable, offering both global and local explanations at the feature and graph levels through direct visualization of the model. These visualizations describe exactly how the model uses the relationships between the target variable, the features, and the graph. We demonstrate the intelligibility of GNANs in a series of examples on different tasks and datasets. In addition, we show that the accuracy of GNAN is on par with black-box GNNs, making it suitable for critical applications where transparency is essential, alongside high accuracy.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google