Normalizing Flow-based Neural Process for Few-Shot Knowledge Graph Completion

要約

タイトル:Few-Shot Knowledge Graph Completionに対する正規化フローのベースとなるニューラルプロセス

要約:

– 知識グラフ(KG)は構造化された知識表現の一形式であり、現実世界で広く応用されています。
– 最近、few-shot knowledge graph completion (FKGC)という、few-shot関連事実で未知の関係の欠落を予測することを目的とした技術が、研究者や実践者から注目を集めています。
– しかし、既存のFKGC方法はメトリック学習やメタ学習に基づいており、分布外推定や過剰適合などの問題を抱えていることが多い。
– また、彼らは予測の不確実性を推定することができず、少数派の状況下ではモデルの予測が非常に信頼性に欠ける場合があるため、重要な問題となる。
– さらに、彼らの多くは複雑な関係を扱うことができず、KG内のパス情報を無視しているため、性能が大幅に制限されることが多い。
– 本論文では、few-shot knowledge graph completion(NP-FKGC)のための正規化フローベースのニューラルプロセスを提案している。
– 具体的には、正規化フローとニューラルプロセスを統合して、KG完了機能の複雑な分布をモデル化する方法を提供しています。
– これにより、少数のショット関係について事実を予測しながら、不確実性を推定する新しい手法を提供しています。
– その後、ニューラルプロセスを組み込み、few-shot環境下で複雑な関係を処理するための確率的ManifoldEデコーダーを提案しています。
– さらに、パス情報をキャプチャするために、注意リレーションベースのグラフニューラルネットワークを紹介しています。
– 3つの公開データセットでの広範な実験により、我々の方法が既存のFKGC方法を遥かに上回り、最高の性能を発揮することが示されています。コードはhttps://github.com/RManLuo/NP-FKGC.gitで利用可能です。

要約(オリジナル)

Knowledge graphs (KGs), as a structured form of knowledge representation, have been widely applied in the real world. Recently, few-shot knowledge graph completion (FKGC), which aims to predict missing facts for unseen relations with few-shot associated facts, has attracted increasing attention from practitioners and researchers. However, existing FKGC methods are based on metric learning or meta-learning, which often suffer from the out-of-distribution and overfitting problems. Meanwhile, they are incompetent at estimating uncertainties in predictions, which is critically important as model predictions could be very unreliable in few-shot settings. Furthermore, most of them cannot handle complex relations and ignore path information in KGs, which largely limits their performance. In this paper, we propose a normalizing flow-based neural process for few-shot knowledge graph completion (NP-FKGC). Specifically, we unify normalizing flows and neural processes to model a complex distribution of KG completion functions. This offers a novel way to predict facts for few-shot relations while estimating the uncertainty. Then, we propose a stochastic ManifoldE decoder to incorporate the neural process and handle complex relations in few-shot settings. To further improve performance, we introduce an attentive relation path-based graph neural network to capture path information in KGs. Extensive experiments on three public datasets demonstrate that our method significantly outperforms the existing FKGC methods and achieves state-of-the-art performance. Code is available at https://github.com/RManLuo/NP-FKGC.git.

arxiv情報

著者 Linhao Luo,Yuan-Fang Li,Gholamreza Haffari,Shirui Pan
発行日 2023-04-17 11:42:28+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, OpenAI

カテゴリー: cs.AI, cs.IR パーマリンク