要約
語義曖昧性解消 (WSD) の最近の研究では、入力語句とコンテキストに加えて、語義語尾 (定義テキスト) のエンコーディングを利用して、パフォーマンスを向上させています。
この作業では、グロスとコンテキスト情報を使用して単純なルールベースの抽出パイプラインから生成された MWE 候補をフィルター処理する Bi-encoder モデルをトレーニングすることにより、このアプローチをマルチワード表現 (MWE) 識別での使用に適応できることを示します。
DiMSUM データセットの MWE 同定で最先端の結果を達成し、この方法を使用して PARSEME 1.1 英語データセットで競争力のある結果を達成しています。
私たちのモデルは、WSD を実行する能力のほとんどを保持しており、単一のモデルをこれらの両方のタスクにうまく適用できることを示しています。
さらに、Poly-encoder モデルを MWE 識別と WSD に適用する実験を行い、これらのタスクで標準の Poly-encoder よりも優れた修正された Poly-encoder アーキテクチャを導入します。
要約(オリジナル)
Recent work in word sense disambiguation (WSD) utilizes encodings of the sense gloss (definition text), in addition to the input words and context, to improve performance. In this work we demonstrate that this approach can be adapted for use in multiword expression (MWE) identification by training a Bi-encoder model which uses gloss and context information to filter MWE candidates produced from a simple rule-based extraction pipeline. We achieve state-of-the-art results in MWE identification on the DiMSUM dataset, and competitive results on the PARSEME 1.1 English dataset using this method. Our model also retains most of its ability to perform WSD, demonstrating that a single model can successfully be applied to both of these tasks. Additionally, we experiment with applying Poly-encoder models to MWE identification and WSD, introducing a modified Poly-encoder architecture which outperforms the standard Poly-encoder on these tasks.
arxiv情報
著者 | Joshua Tanner,Jacob Hoffman |
発行日 | 2023-03-12 09:35:42+00:00 |
arxivサイト | arxiv_id(pdf) |
提供元, 利用サービス
arxiv.jp, Google