Can Peanuts Fall in Love with Distributional Semantics?

要約

文脈によって、今後の単語についての期待が変わります。擬人化されたピーナッツが関係する物語の後、理解者は、N400 振幅で指標されるように、ピーナッツが塩漬けになったよりもピーナッツが恋をしていたという文を期待します (Nieuwland & van Berkum、2006)。
この期待の更新は、状況モデル (記述されたイベントの精神的表現) を使用して説明されています。
しかし、N400 の振幅が分布情報のみから予測可能であることを示した最近の研究では、状況モデルがこれらの文脈効果に必要であるかどうかという疑問が生じています。
我々は、6 つの計算言語モデルと 3 セットの単語ベクトルを使用して、Nieuwland と van Berkum (2006) の結果をモデル化しますが、いずれも明示的な状況モデルや意味論的な根拠を持っていません。
これらのサブセットは、Nieuwland と van Berkum (2006) によって発見された効果を完全にモデル化できることがわかりました。
したがって、状況モデルを通じて通常説明される少なくとも一部の処理効果は、実際には明示的な状況モデルを必要としない可能性があります。

要約(オリジナル)

Context changes expectations about upcoming words – following a story involving an anthropomorphic peanut, comprehenders expect the sentence the peanut was in love more than the peanut was salted, as indexed by N400 amplitude (Nieuwland & van Berkum, 2006). This updating of expectations has been explained using Situation Models – mental representations of a described event. However, recent work showing that N400 amplitude is predictable from distributional information alone raises the question whether situation models are necessary for these contextual effects. We model the results of Nieuwland and van Berkum (2006) using six computational language models and three sets of word vectors, none of which have explicit situation models or semantic grounding. We find that a subset of these can fully model the effect found by Nieuwland and van Berkum (2006). Thus, at least some processing effects normally explained through situation models may not in fact require explicit situation models.

arxiv情報

著者 James A. Michaelov,Seana Coulson,Benjamin K. Bergen
発行日 2023-05-22 17:51:20+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.CL パーマリンク