From Latent to Lucid: Transforming Knowledge Graph Embeddings into Interpretable Structures with KGEPrisma

要約

このホワイトペーパーでは、知識グラフ埋め込み（KGE）モデルに合わせて調整された事後およびローカルの説明可能なAIメソッドを紹介します。
これらのモデルは、知識グラフの完了に不可欠ですが、不透明でブラックボックスの性質について批判されています。
高次元の潜在表現を通じて知識グラフのセマンティクスをキャプチャすることに大きな成功を収めたにもかかわらず、それらの固有の複雑さは、説明可能性に大きな課題をもたらします。
Kelpieのような既存の方法はリソース集約型の摂動を使用してKGEモデルを説明しますが、私たちのアプローチはKGEモデルによってエンコードされた潜在表現を直接解読し、埋め込みの滑らかさを活用します。
この原則は一般に滑らかさと呼ばれます。
同様に埋め込まれたエンティティのサブグラフ近傍内で、トリプルの形で象徴的な構造を識別することにより、私たちの方法は、モデルがこれらの洞察を人間に理解しやすい象徴的なルールと事実に依存して変換する統計的規則性を特定します。
これにより、KGEモデルの抽象表現とその予測出力との間のギャップが架けられ、明確で解釈可能な洞察を提供します。
主な貢献には、再訓練なしで即座に忠実な説明を提供するKGEモデルのための新しい事後およびローカル説明可能なAIメソッドが含まれ、大規模な知識グラフでのリアルタイムアプリケーションを促進します。
この方法の柔軟性により、ルールベース、インスタンスベース、および類推ベースの説明の生成が可能になり、多様なユーザーのニーズを満たします。
広範な評価は、忠実でよく想定された説明を提供し、KGEモデルの透明性と信頼性を高める際のアプローチの有効性を示しています。

要約(オリジナル)

In this paper, we introduce a post-hoc and local explainable AI method tailored for Knowledge Graph Embedding (KGE) models. These models are essential to Knowledge Graph Completion yet criticized for their opaque, black-box nature. Despite their significant success in capturing the semantics of knowledge graphs through high-dimensional latent representations, their inherent complexity poses substantial challenges to explainability. While existing methods like Kelpie use resource-intensive perturbation to explain KGE models, our approach directly decodes the latent representations encoded by KGE models, leveraging the smoothness of the embeddings, which follows the principle that similar embeddings reflect similar behaviours within the Knowledge Graph, meaning that nodes are similarly embedded because their graph neighbourhood looks similar. This principle is commonly referred to as smoothness. By identifying symbolic structures, in the form of triples, within the subgraph neighborhoods of similarly embedded entities, our method identifies the statistical regularities on which the models rely and translates these insights into human-understandable symbolic rules and facts. This bridges the gap between the abstract representations of KGE models and their predictive outputs, offering clear, interpretable insights. Key contributions include a novel post-hoc and local explainable AI method for KGE models that provides immediate, faithful explanations without retraining, facilitating real-time application on large-scale knowledge graphs. The method’s flexibility enables the generation of rule-based, instance-based, and analogy-based explanations, meeting diverse user needs. Extensive evaluations show the effectiveness of our approach in delivering faithful and well-localized explanations, enhancing the transparency and trustworthiness of KGE models.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google