Montague semantics and modifier consistency measurement in neural language models

要約

この研究は、現代言語埋め込みモデルにおける構成動作を測定するための新しい方法論を提案します。
具体的には、形容詞と名詞の句における形容詞修飾現象に焦点を当てます。
近年、分散型言語表現モデルは実用的に大きな成功を収めています。
同時に、解釈可能性の必要性により、それらの本質的な特性と機能についての疑問が生じています。
重要なことは、自然言語で構成現象を扱う場合、分布モデルは矛盾することが多く、これは安全性と公平性に重大な影響を及ぼします。
それにもかかわらず、構成性に関する現在の研究のほとんどは、類似性タスクのみでのパフォーマンスの向上に向けられています。
この研究は異なるアプローチを採用しており、モンタギューの意味論に触発された構成動作の 3 つの新しいテストを導入しています。
私たちの実験結果は、現在の神経言語モデルが期待される言語理論に従って動作しないことを示しています。
これは、現在の言語モデルには、限られた文脈で評価した意味論的特性を捉える能力が欠けている可能性があること、またはモンタゴヴィアの伝統からの言語理論が分布モデルの期待される能力と一致しない可能性があることを示しています。

要約(オリジナル)

This work proposes a novel methodology for measuring compositional behavior in contemporary language embedding models. Specifically, we focus on adjectival modifier phenomena in adjective-noun phrases. In recent years, distributional language representation models have demonstrated great practical success. At the same time, the need for interpretability has elicited questions on their intrinsic properties and capabilities. Crucially, distributional models are often inconsistent when dealing with compositional phenomena in natural language, which has significant implications for their safety and fairness. Despite this, most current research on compositionality is directed towards improving their performance on similarity tasks only. This work takes a different approach, introducing three novel tests of compositional behavior inspired by Montague semantics. Our experimental results indicate that current neural language models do not behave according to the expected linguistic theories. This indicates that current language models may lack the capability to capture the semantic properties we evaluated on limited context, or that linguistic theories from Montagovian tradition may not match the expected capabilities of distributional models.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google