LMs stand their Ground: Investigating the Effect of Embodiment in Figurative Language Interpretation by Language Models

要約

比喩的な言語は、その解釈が従来の順序や意味から逸脱した方法での単語の使用に基づいているため、言語モデルにとって課題です。
しかし、人間は、比喩、直喩、慣用句などを具体化された比喩から導き出すことができるため、それらを容易に理解して解釈することができます。
言語は具現化の代理であり、比喩が慣習的で語彙化されていれば、身体を持たないシステムが具現化された概念を理解することが容易になります。
しかし、具体性や習得年齢などの特徴と具体性との間の複雑な関係は、言語モデルに関する比喩的な言語解釈の文脈では研究されていません。
したがって、提示された研究は、比喩文の動作がより具体化されている場合、より大きな言語モデルが比喩文の解釈においてどのようにより優れたパフォーマンスを発揮するかを示しています。
この分析では、他の特徴（語長や具体性など）との多重共線性が排除され、より大きな言語モデルが具現化された概念を比喩的な言語の理解を容易にする程度まで概念化しているという最初の証拠が得られました。

要約(オリジナル)

Figurative language is a challenge for language models since its interpretation is based on the use of words in a way that deviates from their conventional order and meaning. Yet, humans can easily understand and interpret metaphors, similes or idioms as they can be derived from embodied metaphors. Language is a proxy for embodiment and if a metaphor is conventional and lexicalised, it becomes easier for a system without a body to make sense of embodied concepts. Yet, the intricate relation between embodiment and features such as concreteness or age of acquisition has not been studied in the context of figurative language interpretation concerning language models. Hence, the presented study shows how larger language models perform better at interpreting metaphoric sentences when the action of the metaphorical sentence is more embodied. The analysis rules out multicollinearity with other features (e.g. word length or concreteness) and provides initial evidence that larger language models conceptualise embodied concepts to a degree that facilitates figurative language understanding.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google