A Prototypical Semantic Decoupling Method via Joint Contrastive Learning for Few-Shot Name Entity Recognition

要約

タイトル：Few-Shot Name Entity Recognition のためのジョイント対照学習によるプロトタイプのセマンティック・デカップリング手法
要約：
– Few-shot named entity recognition (NER)は、ごく少数のラベル付けされたインスタンスに基づいて、名前のついたエンティティを識別することを目的としている。
– 既存のプロトタイプベースのシーケンスラベリングモデルの多くは、近いプロトタイプによって容易に混同されるエンティティの言及を記憶する傾向がある。
– 本論文では、Few-shot NER用に、ジョイント対照学習によるプロトタイプのセマンティック・デカップリング方法（PSDC）を提案している。
– 具体的には、2つのマスキング戦略によってクラス固有のプロトタイプと文脈的なセマンティックプロトタイプを分離し、推論のために2種類の異なるセマンティック情報に焦点を合わせるようにした。
– さらに、ジョイント対照学習目的を導入して、2種類のセマンティック情報をより良く統合し、セマンティック崩壊を防止している。
– 2つのFew-shot NERベンチマークでの実験結果は、PSDCが全体的な性能において従来のSOTA方法を一貫して上回ることを示している。
– 大規模な解析により、PSDCの有効性と一般化性がさらに検証された。

要約(オリジナル)

Few-shot named entity recognition (NER) aims at identifying named entities based on only few labeled instances. Most existing prototype-based sequence labeling models tend to memorize entity mentions which would be easily confused by close prototypes. In this paper, we proposed a Prototypical Semantic Decoupling method via joint Contrastive learning (PSDC) for few-shot NER. Specifically, we decouple class-specific prototypes and contextual semantic prototypes by two masking strategies to lead the model to focus on two different semantic information for inference. Besides, we further introduce joint contrastive learning objectives to better integrate two kinds of decoupling information and prevent semantic collapse. Experimental results on two few-shot NER benchmarks demonstrate that PSDC consistently outperforms the previous SOTA methods in terms of overall performance. Extensive analysis further validates the effectiveness and generalization of PSDC.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI