Extending Transductive Knowledge Graph Embedding Models for Inductive Logical Relational Inference

要約

関係予測など、ナレッジ グラフの下流推論タスクの多くは、変換設定におけるナレッジ グラフ埋め込み技術によって正常に処理されています。
推論時に新しいエンティティがナレッジ グラフに導入される帰納的設定に対処するために、最近の研究では、多くの場合、グラフ ニューラル ネットワーク アーキテクチャによってパラメータ化される、ネットワークのサブグラフ構造の複雑な関数を通じてナレッジ グラフの暗黙的表現を学習するモデルが選択されています。
これらには、パラメータ化の増加、解釈可能性の低下、および他の下流推論タスクへの一般化の制限という代償が伴います。
この研究では、トランスダクティブな知識グラフ埋め込みアプローチと、より最近の帰納的関係予測モデルの間のギャップを埋めるために、トランスダクティブな埋め込み手法を通じて学習した表現を利用して、推論時に導入される新しいエンティティの表現を推論する一般化された形式の調和拡張を導入します。
誘導設定。
この調和拡張技術は、そのような最良の近似を提供し、効率的な反復スキームを介して実装でき、ナレッジ グラフに対する論理積のファミリーのクエリに答えるために使用でき、トランスダクティブ埋め込み法の機能をさらに拡張します。
多数の大規模ナレッジ グラフ埋め込みベンチマークの実験で、ナレッジ グラフ補完を実行し、帰納的設定で論理クエリに答えるために、変換的ナレッジ グラフ埋め込みモデルの機能を拡張するこのアプローチが、いくつかのベンチマークと競合することがわかりました。
シナリオは、そのような帰納的なタスクのために明示的に導出されたいくつかの最先端のモデルを上回ります。

要約(オリジナル)

Many downstream inference tasks for knowledge graphs, such as relation prediction, have been handled successfully by knowledge graph embedding techniques in the transductive setting. To address the inductive setting wherein new entities are introduced into the knowledge graph at inference time, more recent work opts for models which learn implicit representations of the knowledge graph through a complex function of a network’s subgraph structure, often parametrized by graph neural network architectures. These come at the cost of increased parametrization, reduced interpretability and limited generalization to other downstream inference tasks. In this work, we bridge the gap between traditional transductive knowledge graph embedding approaches and more recent inductive relation prediction models by introducing a generalized form of harmonic extension which leverages representations learned through transductive embedding methods to infer representations of new entities introduced at inference time as in the inductive setting. This harmonic extension technique provides the best such approximation, can be implemented via an efficient iterative scheme, and can be employed to answer a family of conjunctive logical queries over the knowledge graph, further expanding the capabilities of transductive embedding methods. In experiments on a number of large-scale knowledge graph embedding benchmarks, we find that this approach for extending the functionality of transductive knowledge graph embedding models to perform knowledge graph completion and answer logical queries in the inductive setting is competitive with–and in some scenarios outperforms–several state-of-the-art models derived explicitly for such inductive tasks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google