Global Concept Explanations for Graphs by Contrastive Learning

要約

xAI の実践は、信頼性の向上とモデルの公平性の検証を超えて、人間の直感がほとんど、またはまったく存在しないアプリケーション領域で貴重な科学的洞察を回復できる可能性もあります。
そのために、グラフ ニューラル ネットワークの予測から全体的な概念の説明を抽出し、構造とプロパティの関係の基礎となるタスクをより深く理解する方法を提案します。
概念の説明を、自己説明型ミーガン モデルのサブグラフ潜在空間内の密なクラスターとして特定します。
概念ごとに、代表的なプロトタイプ グラフを最適化し、オプションで GPT-4 を使用して、各構造が予測に特定の影響を与える理由についての仮説を提供します。
私たちは、合成および現実世界のグラフ プロパティ予測タスクに関する計算実験を実施します。
合成タスクについては、私たちの方法が、それらが作成されたときの構造規則を正確に再現していることがわかります。
現実世界の分子特性回帰および分類タスクでは、私たちの方法が確立された経験則を再発見することがわかりました。
より具体的には、分子変異原性予測に関する我々の結果は、化学文献からの以前の結果と一致して、既存の説明可能性手法よりも構造詳細のよりきめ細かい解像度を示している。
全体として、私たちの結果は、複雑なグラフプロパティ予測タスクの基礎となる構造とプロパティの関係を抽出する有望な機能を示しています。

要約(オリジナル)

Beyond improving trust and validating model fairness, xAI practices also have the potential to recover valuable scientific insights in application domains where little to no prior human intuition exists. To that end, we propose a method to extract global concept explanations from the predictions of graph neural networks to develop a deeper understanding of the tasks underlying structure-property relationships. We identify concept explanations as dense clusters in the self-explaining Megan models subgraph latent space. For each concept, we optimize a representative prototype graph and optionally use GPT-4 to provide hypotheses about why each structure has a certain effect on the prediction. We conduct computational experiments on synthetic and real-world graph property prediction tasks. For the synthetic tasks we find that our method correctly reproduces the structural rules by which they were created. For real-world molecular property regression and classification tasks, we find that our method rediscovers established rules of thumb. More specifically, our results for molecular mutagenicity prediction indicate more fine-grained resolution of structural details than existing explainability methods, consistent with previous results from chemistry literature. Overall, our results show promising capability to extract the underlying structure-property relationships for complex graph property prediction tasks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google