Inductive Relation Prediction from Relational Paths and Context with Hierarchical Transformers

要約

タイトル：階層トランスフォーマーを用いた関係パスとコンテキストからの帰納的関係予測

要約：
– ナレッジグラフ（KG）上の関係予測は重要な研究トピックである。
– 現在の埋め込みベースの方法は、主に推移的な環境に焦点を当てており、推論のために新しいエンティティを一般化する帰納的な能力に欠けています。
– 既存の帰納的推論方法は、関連するエンティティ間、すなわち関係パスを考慮に入れ、それらのパスを探すことがほとんどであり、リレーショナルコンテキストに含まれるヘッドエンティティとテールエンティティの本質を考慮していません。
– 本論文は、階層トランスフォーマーフレームワークを用いて、エンティティ間の接続とエンティティの固有の性質の両方をキャプチャする新しい方法であり、RElational PathsとcOntextを一元化して集約する方法を提案しています。これは REPORT と呼ばれます。
– REPORT は関係意味にのみ依存しており、トレーニングと推論のKGに共通のエンティティがない完全帰納的環境に自然に汎化することができます。
– 実験では、REPORT は、2つの完全帰納的データセットの8つのバージョンサブセットのほとんどすべてのベースラインよりも一貫して優れたパフォーマンスを発揮します。
– さらに、REPORT は各要素の予測結果への貢献を提供することにより、解釈が可能です。

要約(オリジナル)

Relation prediction on knowledge graphs (KGs) is a key research topic. Dominant embedding-based methods mainly focus on the transductive setting and lack the inductive ability to generalize to new entities for inference. Existing methods for inductive reasoning mostly mine the connections between entities, i.e., relational paths, without considering the nature of head and tail entities contained in the relational context. This paper proposes a novel method that captures both connections between entities and the intrinsic nature of entities, by simultaneously aggregating RElational Paths and cOntext with a unified hieRarchical Transformer framework, namely REPORT. REPORT relies solely on relation semantics and can naturally generalize to the fully-inductive setting, where KGs for training and inference have no common entities. In the experiments, REPORT performs consistently better than all baselines on almost all the eight version subsets of two fully-inductive datasets. Moreover. REPORT is interpretable by providing each element’s contribution to the prediction results.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI