Large Language Model-Enhanced Symbolic Reasoning for Knowledge Base Completion

要約

大規模言語モデル（LLM）とルールベースの推論を統合することは、知識ベース補完（KBC）の柔軟性と信頼性を向上させるための強力なソリューションを提供する。従来のルールベースのKBC手法は検証可能な推論を提供するが柔軟性に欠け、LLMは強力な意味理解を提供するが幻覚に悩まされる。LLMの理解能力をルールベースの論理的で厳密なアプローチと組み合わせることを目的として、我々はサブグラフ抽出器、LLM提案器、ルール推論器からなる新しいフレームワークを提案する。サブグラフ抽出器は、まずKBからサブグラフをサンプリングする。次にLLMはこれらの部分グラフを用いて、欠落した事実を推論するのに有用な、多様で意味のあるルールを提案する。LLMの世代における幻覚を効果的に回避するために、これらの提案されたルールは、知識ベース補完のためにKB内の最も重要なルールをピンポイントで特定するために、ルール推論器によってさらに洗練される。我々のアプローチは、提案ルールの豊富さと多様性を高めるためのLLMの利用、および信頼性を向上させるためのルールベース推論との統合という、いくつかの重要な利点を提供する。本手法はまた、多様なKBデータセットにおいて高い性能を示し、提案するフレームワークの頑健性と汎用性を強調する。

要約(オリジナル)

Integrating large language models (LLMs) with rule-based reasoning offers a powerful solution for improving the flexibility and reliability of Knowledge Base Completion (KBC). Traditional rule-based KBC methods offer verifiable reasoning yet lack flexibility, while LLMs provide strong semantic understanding yet suffer from hallucinations. With the aim of combining LLMs’ understanding capability with the logical and rigor of rule-based approaches, we propose a novel framework consisting of a Subgraph Extractor, an LLM Proposer, and a Rule Reasoner. The Subgraph Extractor first samples subgraphs from the KB. Then, the LLM uses these subgraphs to propose diverse and meaningful rules that are helpful for inferring missing facts. To effectively avoid hallucination in LLMs’ generations, these proposed rules are further refined by a Rule Reasoner to pinpoint the most significant rules in the KB for Knowledge Base Completion. Our approach offers several key benefits: the utilization of LLMs to enhance the richness and diversity of the proposed rules and the integration with rule-based reasoning to improve reliability. Our method also demonstrates strong performance across diverse KB datasets, highlighting the robustness and generalizability of the proposed framework.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL