GraphXAIN: Narratives to Explain Graph Neural Networks

要約

グラフニューラルネットワーク（GNNS）は、グラフ構造データの機械学習の強力な手法ですが、解釈可能性に課題をもたらします。
既存のGNN説明方法は通常、サブグラフや特徴の重要性スコアなどの技術的な出力を生成します。これは、非DATA科学者が理解し、それによって説明の目的に違反することが困難です。
最近の説明可能なAI（XAI）の研究に動機付けられているため、GNNの予測を説明する自然言語の物語を生成する方法であるGraphXainを提案します。
GraphXainは、大規模な言語モデル（LLM）を使用して説明サブグラフを変換し、重要性のスコアをGNN意思決定プロセスの一貫したストーリーのような説明に翻訳するモデルおよび説明型の方法です。
実際のデータセットの評価は、グラフの説明を改善するGraphxainの能力を示しています。
機械学習の研究者と実践者の調査では、GraphXainがモデル予測の通信のための理解可能性、満足度、説得力、および適合性という4つの説明可能性の次元を強化することが明らかになりました。
別のグラフ説明方法と組み合わせると、GraphXainは信頼性、洞察、自信、使いやすさをさらに改善します。
特に、参加者の95％がGraphxainがGNN説明方法に貴重な追加であることを発見しました。
自然言語の物語を組み込むことにより、私たちのアプローチは、より明確で効果的な説明を提供することにより、グラフの実践者と非専門家の両方のユーザーの両方にサービスを提供します。

要約(オリジナル)

Graph Neural Networks (GNNs) are a powerful technique for machine learning on graph-structured data, yet they pose challenges in interpretability. Existing GNN explanation methods usually yield technical outputs, such as subgraphs and feature importance scores, that are difficult for non-data scientists to understand and thereby violate the purpose of explanations. Motivated by recent Explainable AI (XAI) research, we propose GraphXAIN, a method that generates natural language narratives explaining GNN predictions. GraphXAIN is a model- and explainer-agnostic method that uses Large Language Models (LLMs) to translate explanatory subgraphs and feature importance scores into coherent, story-like explanations of GNN decision-making processes. Evaluations on real-world datasets demonstrate GraphXAIN’s ability to improve graph explanations. A survey of machine learning researchers and practitioners reveals that GraphXAIN enhances four explainability dimensions: understandability, satisfaction, convincingness, and suitability for communicating model predictions. When combined with another graph explainer method, GraphXAIN further improves trustworthiness, insightfulness, confidence, and usability. Notably, 95% of participants found GraphXAIN to be a valuable addition to the GNN explanation method. By incorporating natural language narratives, our approach serves both graph practitioners and non-expert users by providing clearer and more effective explanations.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google