EiX-GNN : Concept-level eigencentrality explainer for graph neural networks

要約

説明とは、説明者と被説明者の間で行われる現象に関する人間の知識伝達プロセスである。この現象を説明するために使われる言葉の一つ一つは、被説明者から高い理解を得るために、現在の被説明者の現象に関する知識レベルや現象そのものに応じて、説明者が慎重に選択しなければならない。現在、ディープモデル、特にグラフニューラルネットワークは、クリティカルなアプリケーションにおいても日常生活の中で大きな位置を占めている。このような状況において、ディープモデルの信頼性を高めるためには、人間による高い解釈可能性（説明可能性）が必要です。説明は人間に依存するタスクであり、深層モデルの挙動を説明する方法は、有益で質の高い説明を提供するために、これらの社会的な懸念を含む必要があります。現在の説明手法は、このような社会的側面を排除し、質問の信号の側面のみに焦点を当てた説明を提供することが多い。本寄稿では、グラフニューラルネットワークに適した、信頼性の高い社会考慮型説明手法を提案する。この手法は、モジュール式概念生成器としてこの社会的特徴を含み、固有中心性概念順序付けアプローチにより信号とグラフ領域の両方の側面を利用する。本手法は、説明プロセスの根底にある人間依存の側面を考慮し、さらに、グラフニューラルネットワークモデルに対する説明手法を評価する最新の客観的メトリクスに関しても高いスコアを達成している。

要約(オリジナル)

Explaining is a human knowledge transfer process regarding a phenomenon between an explainer and an explainee. Each word used to explain this phenomenon must be carefully selected by the explainer in accordance with the current explainee phenomenon-related knowledge level and the phenomenon itself in order to have a high understanding from the explainee of the phenomenon. Nowadays, deep models, especially graph neural networks, have a major place in daily life even in critical applications. In such context, those models need to have a human high interpretability also referred as being explainable, in order to improve usage trustability of them in sensitive cases. Explaining is also a human dependent task and methods that explain deep model behavior must include these social-related concerns for providing profitable and quality explanations. Current explaining methods often occlude such social aspect for providing their explanations and only focus on the signal aspect of the question. In this contribution we propose a reliable social-aware explaining method suited for graph neural network that includes this social feature as a modular concept generator and by both leveraging signal and graph domain aspect thanks to an eigencentrality concept ordering approach. Besides our method takes into account the human-dependent aspect underlying any explanation process, we also reach high score regarding state-of-the-art objective metrics assessing explanation methods for graph neural networks models.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL