Mars: Modeling Context & State Representations with Contrastive Learning for End-to-End Task-Oriented Dialog

要約

従来のエンドツーエンドのタスク指向対話システムは、システム応答を生成する前に、まず対話コンテキストを信念状態と行動状態に変換します。
システムの応答パフォーマンスは、信念状態と行動状態の質に大きく影響されます。
まず、どのような対話コンテキスト表現が信念状態と行動状態の品質を向上させるのに有益であるかを調査し、生成される応答の品質をさらに向上させます。
私たちの探索に取り組むために、対話コンテキストと信念/行動状態表現の間の関係をモデル化する 2 つの対照的な学習戦略を備えたエンドツーエンドのタスク指向対話システムである Mars を提案します。
経験的な結果は、セマンティックな状態表現とはより異なるダイアログ コンテキスト表現が、マルチターンのタスク指向のダイアログに役立つことを示しています。
さらに、私たちが提案する Mars は、MultiWOZ 2.0、CamRest676、および CrossWOZ で最先端のパフォーマンスを実現します。

要約(オリジナル)

Traditional end-to-end task-oriented dialog systems first convert dialog context into belief state and action state before generating the system response. The system response performance is significantly affected by the quality of the belief state and action state. We first explore what dialog context representation is beneficial to improving the quality of the belief state and action state, which further enhances the generated response quality. To tackle our exploration, we propose Mars, an end-to-end task-oriented dialog system with two contrastive learning strategies to model the relationship between dialog context and belief/action state representations. Empirical results show dialog context representations, which are more different from semantic state representations, are more conducive to multi-turn task-oriented dialog. Moreover, our proposed Mars achieves state-of-the-art performance on the MultiWOZ 2.0, CamRest676, and CrossWOZ.

arxiv情報

著者 Haipeng Sun,Junwei Bao,Youzheng Wu,Xiaodong He
発行日 2023-07-10 06:21:55+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.CL パーマリンク