EiX-GNN : Concept-level eigencentrality explainer for graph neural networks

要約

現在、深層予測モデル、特にグラフ ニューラル ネットワークは、重要なアプリケーションで重要な位置を占めています。
そのような文脈では、それらのモデルは人間によって高度に解釈可能または説明可能である必要があり、社会的範囲では、この理解は、モデルと説明が必要な文脈に関する強力な事前知識を持たない人間にとっても実現可能かもしれません.
文献では、説明とは、説明者と被説明者の間の現象に関する人間の知識伝達プロセスです。
EiX-GNN (Eigencentrality eXplainer for Graph Neural Networks) は、説明プロセスの根底にあるこの社会的な説明者から説明者への依存を計算でエンコードする、グラフ ニューラル ネットワークを説明するための新しい強力な方法です。
この依存関係を処理するために、説明者がその説明を被説明者の背景または期待に適応させることを可能にする被説明者概念同化性の概念を導入します。
私たちは、実世界のデータに対する被説明者の概念の同化の概念を説明する定性的研究と、文献で確立された客観的な測定基準に従って、最先端の方法の実行に関する私たちの方法の公平性とコンパクトさを比較する定性的研究を主導します。
私たちの方法は、両方の面で強力な結果を達成していることがわかりました。

要約(オリジナル)

Nowadays, deep prediction models, especially graph neural networks, have a majorplace in critical applications. In such context, those models need to be highlyinterpretable or being explainable by humans, and at the societal scope, this understandingmay also be feasible for humans that do not have a strong prior knowledgein models and contexts that need to be explained. In the literature, explainingis a human knowledge transfer process regarding a phenomenon between an explainerand an explainee. We propose EiX-GNN (Eigencentrality eXplainer forGraph Neural Networks) a new powerful method for explaining graph neural networksthat encodes computationally this social explainer-to-explainee dependenceunderlying in the explanation process. To handle this dependency, we introducethe notion of explainee concept assimibility which allows explainer to adapt itsexplanation to explainee background or expectation. We lead a qualitative studyto illustrate our explainee concept assimibility notion on real-world data as wellas a qualitative study that compares, according to objective metrics established inthe literature, fairness and compactness of our method with respect to performingstate-of-the-art methods. It turns out that our method achieves strong results inboth aspects.

arxiv情報

著者 Adrien Raison,Pascal Bourdon,David Helbert
発行日 2023-03-10 10:34:33+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.CV, cs.LG パーマリンク