Multijugate Dual Learning for Low-Resource Task-Oriented Dialogue System

要約

実際のシナリオでは、対話データは利用可能であることがまばらになる傾向があり、不十分にトレーニングされたデータ不足のエンドツーエンド対話システムがレンダリングされます。
私たちは、不確実な発話と決定的な対話状態のアライメント情報をマイニングすることによって、低リソースのシナリオでのデータ利用効率を向上できることを発見しました。
したがって、私たちはタスク指向の対話に二重学習を革新的に実装し、異種データの相関関係を活用します。
さらに、1 対 1 双対性は多重双対性へ変換され、汎化のための双対トレーニングにおける偽相関の影響を軽減します。
追加のパラメータを導入することなく、私たちの方法は任意のネットワークに実装できます。
広範な実証分析により、私たちが提案した方法が複数のベンチマークの下でエンドツーエンドのタスク指向対話システムの有効性を向上させ、低リソースのシナリオで最先端の結果が得られることが実証されています。

要約(オリジナル)

Dialogue data in real scenarios tend to be sparsely available, rendering data-starved end-to-end dialogue systems trained inadequately. We discover that data utilization efficiency in low-resource scenarios can be enhanced by mining alignment information uncertain utterance and deterministic dialogue state. Therefore, we innovatively implement dual learning in task-oriented dialogues to exploit the correlation of heterogeneous data. In addition, the one-to-one duality is converted into a multijugate duality to reduce the influence of spurious correlations in dual training for generalization. Without introducing additional parameters, our method could be implemented in arbitrary networks. Extensive empirical analyses demonstrate that our proposed method improves the effectiveness of end-to-end task-oriented dialogue systems under multiple benchmarks and obtains state-of-the-art results in low-resource scenarios.

arxiv情報

著者 Shimin Li,Xiaotian Zhang,Yanjun Zheng,Linyang Li,Xipeng Qiu
発行日 2023-05-25 14:38:05+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.CL パーマリンク