Generating novel experimental hypotheses from language models: A case study on cross-dative generalization

要約

ニューラル ネットワーク言語モデル (LM) は、複雑な言語知識をうまく取り込むことが示されています。
しかし、言語習得を理解する上でのそれらの有用性についてはまだ議論が続いています。
私たちは、LM を模擬学習者として使用して、人間でテストする新しい実験仮説を導き出すケーススタディを提示することで、この議論に貢献します。
私たちはこのパラダイムをクロス与格一般化 (CDG) の研究に適用します。与格構文全体にわたる新規動詞の生産的な一般化 (彼女は私にボールを盗んだ/彼女は私にボールを盗んだ) — その習得には文脈の広い空間が関与することが知られています。
機能 — 子供向けのスピーチについて訓練された LM を使用します。
私たちは具体的に「トレーニング露出のどのような特性が、新しい動詞の（モデル化されていない）代替構文への一般化を促進しますか?」と尋ねます。
これに答えるために、テーマと受信者の特性の観点から、新しい与格動詞が出現する露出コンテキストを体系的に変化させ、モデル化されていない与格構文における LM による新規動詞の使用法を分析します。
私たちは、新しい仮説を探索するための前提条件として、LMが子供のCDGの既知のパターンを複製することを発見しました。
その後のシミュレーションにより、LM の CDG における新規動詞の露出コンテキストの特徴の微妙な役割が明らかになりました。
暴露文脈の最初の口頭後議論が代名詞的で明確で短く、暴露与格の典型的なアニマシーの期待に一致する場合、CDG が促進されることがわかります。
これらのパターンは、与格における調和の整列の特徴であり、談話の卓越性スケールで上位にランクされている特徴を伴う議論が他の議論に先行する傾向があります。
これは、暴露状況の特徴、特に口頭後の最初の議論が調和的に調整されている限り、CDG が促進されるという新しい仮説をもたらします。
最後に、子供たちを対象にこの仮説を検証できる将来の実験を提案します。

要約(オリジナル)

Neural network language models (LMs) have been shown to successfully capture complex linguistic knowledge. However, their utility for understanding language acquisition is still debated. We contribute to this debate by presenting a case study where we use LMs as simulated learners to derive novel experimental hypotheses to be tested with humans. We apply this paradigm to study cross-dative generalization (CDG): productive generalization of novel verbs across dative constructions (she pilked me the ball/she pilked the ball to me) — acquisition of which is known to involve a large space of contextual features — using LMs trained on child-directed speech. We specifically ask: ‘what properties of the training exposure facilitate a novel verb’s generalization to the (unmodeled) alternate construction?’ To answer this, we systematically vary the exposure context in which a novel dative verb occurs in terms of the properties of the theme and recipient, and then analyze the LMs’ usage of the novel verb in the unmodeled dative construction. We find LMs to replicate known patterns of children’s CDG, as a precondition to exploring novel hypotheses. Subsequent simulations reveal a nuanced role of the features of the novel verbs’ exposure context on the LMs’ CDG. We find CDG to be facilitated when the first postverbal argument of the exposure context is pronominal, definite, short, and conforms to the prototypical animacy expectations of the exposure dative. These patterns are characteristic of harmonic alignment in datives, where the argument with features ranking higher on the discourse prominence scale tends to precede the other. This gives rise to a novel hypothesis that CDG is facilitated insofar as the features of the exposure context — in particular, its first postverbal argument — are harmonically aligned. We conclude by proposing future experiments that can test this hypothesis in children.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google