Complex Logical Reasoning over Knowledge Graphs using Large Language Models

要約

タイトル：大規模言語モデルを利用した知識グラフ上での複雑な論理推論

要約：
– 知識グラフ上での論理推論は、エンティティ間の複雑な関係やその関係の基礎となる論理の深い理解を必要とするため、困難なタスクである。
– 現在のアプローチは、エンティティをベクトル空間に埋め込むことで論理的なクエリ操作を学習する幾何学的手法に依存しているが、複雑なクエリやデータセット固有の表現に苦しんでいる。
– 本論文では、大規模言語モデル(LLM)とグラフ抽出アルゴリズムの強みをそれぞれ活用することで、複雑な知識グラフ上での論理推論を、文脈に基づくグラフ検索と抽象的な論理的クエリ推論の組み合わせとして提案する。
– 実験により、本手法が標準ベンチマークデータセットにおけるいくつかの論理的クエリ構造において、現在のKG推論手法を凌駕することを示し、高度なクエリに対しても大幅な性能改善が見られた。
– さらに、LLMのサイズが増すにつれて性能が向上することを示し、KG推論における最新のLLMの応用を可能にする。
– 本研究は、複雑なKG推論の課題に対処する新しい方向性を提供し、今後の研究の道を拓く。

要約(オリジナル)

Reasoning over knowledge graphs (KGs) is a challenging task that requires a deep understanding of the complex relationships between entities and the underlying logic of their relations. Current approaches rely on learning geometries to embed entities in vector space for logical query operations, but they suffer from subpar performance on complex queries and dataset-specific representations. In this paper, we propose a novel decoupled approach, Language-guided Abstract Reasoning over Knowledge graphs (LARK), that formulates complex KG reasoning as a combination of contextual KG search and abstract logical query reasoning, to leverage the strengths of graph extraction algorithms and large language models (LLM), respectively. Our experiments demonstrate that the proposed approach outperforms state-of-the-art KG reasoning methods on standard benchmark datasets across several logical query constructs, with significant performance gain for queries of higher complexity. Furthermore, we show that the performance of our approach improves proportionally to the increase in size of the underlying LLM, enabling the integration of the latest advancements in LLMs for logical reasoning over KGs. Our work presents a new direction for addressing the challenges of complex KG reasoning and paves the way for future research in this area.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI