Computational Language Acquisition with Theory of Mind

要約

現在の最先端の言語モデルとは異なり、幼児は周囲の環境や保護者との相互作用を通じて積極的に言語を獲得します。
言語学習にとって重要であると主張されてきたメカニズムの 1 つは、社会環境における他のエージェントの精神状態を推測する能力であり、Premack & Woodruff (1978) によって造られた心の理論 (ToM) です。
ラビノウィッツらで実装されたToMの最新の運用バージョンからインスピレーションを得ています。
(2018) および Zhu ら。
(2021) では、ToM を備えた言語学習エージェントを構築し、学習プロセスへの影響を測定しています。
ToM をモデル化するには、スピーカー エージェントに内部リスナー モデルを与えます。このモデルは、スピーカーと共にトレーニングされ、潜在的な発話を再ランク付けするために使用されます。
タスクの難易度を変えて実験し、モデルがより複雑な言語を獲得して、より強い環境圧力に適応するという仮説を立てました。
非常に重み付けされたToMリスナーコンポーネントを使用してスピーカーをトレーニングすると、画像参照ゲーム設定でパフォーマンスが向上することがわかりました.
また、トレーニング プロセスでタスクの難易度が高くなると、評価での発話がより流暢で正確になるという証拠もいくつか見つかりました。
これは、ToM や子供の言語習得からの他の洞察を、言語習得の計算モデルにさらに組み込むことの潜在的な有用性を示唆しています。

要約(オリジナル)

Unlike current state-of-the-art language models, young children actively acquire language through interactions with their surrounding environment and caretakers. One mechanism that has been argued to be critical to language learning is the ability to infer the mental states of other agents in social environments, coined Theory of Mind (ToM) by Premack & Woodruff (1978). Drawing inspiration from the modern operationalized versions of ToM implemented in Rabinowitz et al. (2018) and Zhu et al. (2021), we build language-learning agents equipped with ToM, and measure its effects on the learning process. We model ToM by giving the speaker agent an internal listener model that is trained alongside the speaker and used to rerank potential utterances. We experiment with varying task difficulty, hypothesizing that models will acquire more complex language to adapt to stronger environmental pressures. We find that training speakers with a highly weighted ToM listener component leads to performance gains in our image referential game setting. We also find some evidence that increasing task difficulty in the training process results in more fluent and precise utterances in evaluation. This suggests the potential utility of further incorporating ToM, as well as other insights from child language acquisition, into computational models of language acquisition.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google