LMs stand their Ground: Investigating the Effect of Embodiment in Figurative Language Interpretation by Language Models

要約

タイトル：LMs stand their Ground：言語モデルによる比喩的言語解釈における具現化の影響を調査する

要約：
– 比喩的な言語は、単語の用法が従来の順序や意味から逸脱するため、言語モデルにとっては課題である。
– 人間は、具現化された比喩的表現からメタファーやシミリ、イディオムを容易に理解できる。
– 言語は具現化の代理であり、比喩的表現が伝統的で語彙化されると、体を持たないシステムでも具現化概念を理解しやすくなる。
– しかしながら、具現化と具体性、習得年齢などの関係は、言語モデルによる比喩的言語解釈の文脈でまだ研究されていない。
– したがって、この研究では、より大規模な言語モデルが、比喩的な文章の意味を理解する際に、比喩的表現がより具現化されている場合により優れた性能を発揮することを示す。
– 分析は、他の特徴（単語の長さや具体性など）との多重共線性を除外し、より大規模な言語モデルが具現化概念を相当程度概念化することを初めての証拠と提供する。

要約(オリジナル)

Figurative language is a challenge for language models since its interpretation is based on the use of words in a way that deviates from their conventional order and meaning. Yet, humans can easily understand and interpret metaphors, similes or idioms as they can be derived from embodied metaphors. Language is a proxy for embodiment and if a metaphor is conventional and lexicalised, it becomes easier for a system without a body to make sense of embodied concepts. Yet, the intricate relation between embodiment and features such as concreteness or age of acquisition has not been studied in the context of figurative language interpretation concerning language models. Hence, the presented study shows how larger language models perform better at interpreting metaphoric sentences when the action of the metaphorical sentence is more embodied. The analysis rules out multicollinearity with other features (e.g. word length or concreteness) and provides initial evidence that larger language models conceptualise embodied concepts to a degree that facilitates figurative language understanding.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI