A Prototypical Semantic Decoupling Method via Joint Contrastive Learning for Few-Shot Name Entity Recognition

要約

少数ショット固有表現認識 (NER) は、少数のラベル付きインスタンスのみに基づいて固有表現を識別することを目的としています。
ほとんどの既存のプロトタイプベースのシーケンス ラベル付けモデルは、エンティティの言及を記憶する傾向があり、プロトタイプに近いと簡単に混乱してしまいます。
この論文では、少数ショット NER のための結合対照学習 (PSDC) を介したプロトタイプ セマンティック デカップリング法を提案しました。
具体的には、クラス固有のプロトタイプとコンテキスト セマンティック プロトタイプを 2 つのマスキング戦略によって分離し、モデルが 2 つの異なるセマンティック情報に焦点を合わせて推論できるようにします。
さらに、2 種類のデカップリング情報をより適切に統合し、セマンティックの崩壊を防ぐために、共同の対照的な学習目標を導入します。
2 つの少数ショット NER ベンチマークの実験結果は、PSDC が全体的なパフォーマンスの点で以前の SOTA 方法よりも一貫して優れていることを示しています。
広範な分析により、PSDC の有効性と一般化がさらに検証されます。

要約(オリジナル)

Few-shot named entity recognition (NER) aims at identifying named entities based on only few labeled instances. Most existing prototype-based sequence labeling models tend to memorize entity mentions which would be easily confused by close prototypes. In this paper, we proposed a Prototypical Semantic Decoupling method via joint Contrastive learning (PSDC) for few-shot NER. Specifically, we decouple class-specific prototypes and contextual semantic prototypes by two masking strategies to lead the model to focus on two different semantic information for inference. Besides, we further introduce joint contrastive learning objectives to better integrate two kinds of decoupling information and prevent semantic collapse. Experimental results on two few-shot NER benchmarks demonstrate that PSDC consistently outperforms the previous SOTA methods in terms of overall performance. Extensive analysis further validates the effectiveness and generalization of PSDC.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google