Attribution and Alignment: Effects of Local Context Repetition on Utterance Production and Comprehension in Dialogue

要約

言語モデルは、現代の対話システムのバックボーンとしてよく使用されます。
これらのモデルは、大量の流暢な書き言葉で事前トレーニングされています。
通常、言語モデルの生成を評価する場合、繰り返しにはペナルティが課せられます。
しかし、それは対話の重要な要素です。
人間はローカルおよびパートナー固有の繰り返しを使用します。
これらは人間のユーザーに好まれ、対話によるコミュニケーションの成功につながります。
この研究では、(a) 言語モデルが対話において人間のようなレベルの繰り返しを生成するかどうか、(b) 言語モデルが理解中に使用する語彙の再利用に関連する処理メカニズムは何かを評価します。
私たちは、モデル生成と理解行動のこのような共同分析が、認知に触発された対話生成システムの開発に情報を提供できると信じています。

要約(オリジナル)

Language models are often used as the backbone of modern dialogue systems. These models are pre-trained on large amounts of written fluent language. Repetition is typically penalised when evaluating language model generations. However, it is a key component of dialogue. Humans use local and partner specific repetitions; these are preferred by human users and lead to more successful communication in dialogue. In this study, we evaluate (a) whether language models produce human-like levels of repetition in dialogue, and (b) what are the processing mechanisms related to lexical re-use they use during comprehension. We believe that such joint analysis of model production and comprehension behaviour can inform the development of cognitively inspired dialogue generation systems.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google