Systematic word meta-sense extension

要約

多義語の意味は、多くの場合、非常に生産的でありながら予測可能な方法で変化します。
従来の意味間の規則性を一般化して新しい単語の意味を導き出すことは、比喩表現などの非文字通りの言語使用を自動処理するために重要です。
我々は、既存の意味と規則的な意味関係を持つ新しい意味論的領域（メタ意味とも呼ばれる）を示すために単語の意味を拡張する言語モデルの能力をテストおよび改善するために、系統的単語メタセンス拡張（SWORME）と呼ばれる新しいタスクを導入します。
私たちは、言語モデルが論理的換喩などの概念的に類似したメタ意味に向けて漸進的な語彙意味論的変化を好み、比喩などの高度に非リテラルな意味拡張の予測がはるかに苦手であることを発見しました。
我々は、単語の意味を拡張する新しい類推ベースの方法を提案し、それが段階的および急進的な両方のタイプのメタ意味拡張を行う際に言語モデルの体系性を効果的に改善することを示します。
さらに、体系的なメタセンス拡張の学習が、比喩的な言語理解の複数のベンチマークにおいて言語モデルに利益をもたらすことを実証します。

要約(オリジナル)

The meaning of polysemous words often varies in a highly productive yet predictable way. Generalizing the regularity between conventional senses to derive novel word meaning is crucial for automated processing of non-literal language uses such as figurative expressions. We introduce a novel task called systematic word meta-sense extension (SWORME) to test and improve language models’ ability to extend word meaning to denote new semantic domains (also called meta-senses) that bear regular semantic relations with existing senses. We found that language models prefer incremental lexical semantic change toward conceptually similar meta-senses such as logical metonymy, and are much worse at predicting highly non-literal meaning extensions such as metaphors. We propose a novel analogy-based method of word meaning extension, and show that it effectively improves language model systematicity in making both gradual and radical types of meta-sense extension. We further demonstrate that learning systematic meta-sense extensions benefits language models on multiple benchmarks of figurative language understanding.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google