Ensembling Textual and Structure-Based Models for Knowledge Graph Completion

要約

ナレッジ グラフ補完 (KGC) に対する 2 つの一般的なアプローチを検討します。テキストによるエンティティの説明に依存するテキスト モデルと、ナレッジ グラフ (KG) の接続構造を利用する構造ベースのモデルです。
予備実験では、これらのアプローチには補完的な長所があることが示されています。構造ベースのモデルは、ゴールドアンサーが KG のクエリヘッドから簡単に到達できる場合に優れたパフォーマンスを発揮しますが、テキストモデルは記述を活用して、ゴールドアンサーに到達できない場合でも優れたパフォーマンスを発揮します。
これに応えて、私たちは両方のアプローチの長所を組み合わせる方法としてアンサンブルを検討します。
個々のモデルによってすべての候補エンティティに割り当てられたスコアの分布を使用して、クエリ依存のアンサンブル重みを学習するための新しい方法を提案します。
当社のアンサンブル ベースラインは、3 つの標準 KGC データセットで最先端の結果を達成し、最高の個別モデルと比較して最大 6.8 ポイントの MRR と 8.3 ポイントの Hits@1 ゲインを達成しました。

要約(オリジナル)

We consider two popular approaches to Knowledge Graph Completion (KGC): textual models that rely on textual entity descriptions, and structure-based models that exploit the connectivity structure of the Knowledge Graph (KG). Preliminary experiments show that these approaches have complementary strengths: structure-based models perform well when the gold answer is easily reachable from the query head in the KG, while textual models exploit descriptions to give good performance even when the gold answer is not reachable. In response, we explore ensembling as a way of combining the best of both approaches. We propose a novel method for learning query-dependent ensemble weights by using the distributions of scores assigned by individual models to all candidate entities. Our ensemble baseline achieves state-of-the-art results on three standard KGC datasets, with up to 6.8 pt MRR and 8.3 pt Hits@1 gains over best individual models.

arxiv情報

著者 Ananjan Nandi,Navdeep Kaur,Parag Singla,Mausam
発行日 2023-11-07 07:53:06+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.CL, cs.LG, I.2.7 パーマリンク