Bidirectional End-to-End Learning of Retriever-Reader Paradigm for Entity Linking

要約

エンティティ リンク (EL) は、情報抽出とナレッジ グラフの基本的なタスクです。
EL の一般的な形式 (つまり、エンドツーエンド EL) は、まず指定された入力ドキュメント内で言及を検索し、次にその言及を特定のナレッジ ベース内の対応するエンティティにリンクすることを目的としています。
最近では、リトリーバーとリーダーのパラダイムにより、高密度エンティティの検索と機械による読み取りの利点の恩恵を受けて、エンドツーエンド EL の進歩が促進されています。
しかし、既存の研究では、パイプライン方式で取得者とリーダーを個別にトレーニングするだけであり、取得者とリーダー間の対話がタスクにもたらす利点が無視されています。
レトリーバーとリーダーのパラダイムを進化させ、エンドツーエンド EL でより完璧に実行できるようにするために、レトリーバーとリーダーのための双方向エンドツーエンド トレーニング フレームワークである BEER$^2$ を提案します。
BEER$^2$ は、私たちが設計した双方向のエンドツーエンド トレーニングを通じて、レトリーバーとリーダーが互いに学び、共に進歩し、最終的に EL のパフォーマンスを向上できるように導きます。
複数のドメインのベンチマークに関する広範な実験により、私たちが提案した BEER$^2$ の有効性が実証されました。

要約(オリジナル)

Entity Linking (EL) is a fundamental task for Information Extraction and Knowledge Graphs. The general form of EL (i.e., end-to-end EL) aims to first find mentions in the given input document and then link the mentions to corresponding entities in a specific knowledge base. Recently, the paradigm of retriever-reader promotes the progress of end-to-end EL, benefiting from the advantages of dense entity retrieval and machine reading comprehension. However, the existing study only trains the retriever and the reader separately in a pipeline manner, which ignores the benefit that the interaction between the retriever and the reader can bring to the task. To advance the retriever-reader paradigm to perform more perfectly on end-to-end EL, we propose BEER$^2$, a Bidirectional End-to-End training framework for Retriever and Reader. Through our designed bidirectional end-to-end training, BEER$^2$ guides the retriever and the reader to learn from each other, make progress together, and ultimately improve EL performance. Extensive experiments on benchmarks of multiple domains demonstrate the effectiveness of our proposed BEER$^2$.

arxiv情報

著者 Yinghui Li,Yong Jiang,Shen Huang,Xingyu Lu,Yangning Li,Pengjun Xie,Fei Huang,Hai-Tao Zheng
発行日 2023-06-21 13:04:30+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.CL パーマリンク