End-to-End Entity Detection with Proposer and Regressor

要約

タイトル：ProposerとRegressorを使ったEnd-to-Endエンティティ検出

要約：
– Named entity recognition は自然言語処理における伝統的なタスクで、nested entity recognitionはnestingのシナリオが広く存在するため、多くの注目を集めている
– このようなエンティティの入れ子構造を取り扱うため、最新の研究では、オブジェクト検出で確立されたset predictionのパラダイムを移植している
– しかしながら、クエリベクトルの手動作成は、文脈の豊富な意味情報に適応できず、これらのアプローチを限定する
– 本論文では、ProposerとRegressorを利用したEnd-to-Endエンティティ検出手法が提案されており、Proposerは高品質のエンティティproposalを生成し、Regressorはproposalを改善して最終予測を生成する
– このモデルは、エンコーダーのみのアーキテクチャを採用するため、クエリの意味情報が豊富で、エンティティの精度が高く、モデルのトレーニングが容易であるという利点を得る
– さらに、空間的に変調された注意と進行的な改善の新しい手法を紹介している
– 多数の実験により、モデルが平面的および入れ子状のNERで優れた性能を発揮し、GENIAデータセットで80.74、WeiboNERデータセットで72.38の新しいF1スコアを達成していることが示されている。

要約(オリジナル)

Named entity recognition is a traditional task in natural language processing. In particular, nested entity recognition receives extensive attention for the widespread existence of the nesting scenario. The latest research migrates the well-established paradigm of set prediction in object detection to cope with entity nesting. However, the manual creation of query vectors, which fail to adapt to the rich semantic information in the context, limits these approaches. An end-to-end entity detection approach with proposer and regressor is presented in this paper to tackle the issues. First, the proposer utilizes the feature pyramid network to generate high-quality entity proposals. Then, the regressor refines the proposals for generating the final prediction. The model adopts encoder-only architecture and thus obtains the advantages of the richness of query semantics, high precision of entity localization, and easiness of model training. Moreover, we introduce the novel spatially modulated attention and progressive refinement for further improvement. Extensive experiments demonstrate that our model achieves advanced performance in flat and nested NER, achieving a new state-of-the-art F1 score of 80.74 on the GENIA dataset and 72.38 on the WeiboNER dataset.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI