CoGen: Learning from Feedback with Coupled Comprehension and Generation

要約

言語理解機能と言語生成機能の両方を備えたシステムは、この 2 つの間の緊密な連携から恩恵を受けることができます。
この研究では、ユーザーとの対話から継続的に学習することに焦点を当てて、理解と生成の結合を研究しています。
私たちは、学習と推論の両方の 2 つの機能を緊密に統合する手法を提案します。
私たちは研究を 2 プレイヤーのリファレンス ゲームに置き、インタラクションのフィードバック信号から学習しながら、人間のユーザーとの何千ものインタラクションに対してさまざまなモデルを展開します。
時間の経過とともにパフォーマンスが劇的に向上し、理解と生成の結合により、非結合システムと比較して絶対値で最大 26% のパフォーマンス向上と最大 17% の高い精度が得られました。
私たちの分析では、カップリングがシステムの言語にかなりの定性的な影響を与え、言語をより人間らしくすることも示しています。

要約(オリジナル)

Systems with both language comprehension and generation capabilities can benefit from the tight connection between the two. This work studies coupling comprehension and generation with focus on continually learning from interaction with users. We propose techniques to tightly integrate the two capabilities for both learning and inference. We situate our studies in two-player reference games, and deploy various models for thousands of interactions with human users, while learning from interaction feedback signals. We show dramatic improvements in performance over time, with comprehension-generation coupling leading to performance improvements up to 26% in absolute terms and up to 17% higher accuracies compared to a non-coupled system. Our analysis also shows coupling has substantial qualitative impact on the system’s language, making it significantly more human-like.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google