Intent-driven In-context Learning for Few-shot Dialogue State Tracking

要約

対話状態追跡 (DST) は、タスク指向の対話システムにおいて重要な役割を果たします。
ただし、ユーザーの入力には暗黙的な情報が含まれる場合があり、DST タスクに重大な課題をもたらします。
さらに、DST データには複雑な情報が含まれており、現在のターンに関係のない大量のノイズが含まれるだけでなく、DST データセットの構築にコストがかかります。
これらの課題に対処するために、Few-shot DST のための Intent-driven In-context Learning (IDIC-DST) を導入します。
ユーザーの意図を抽出することにより、対話状態をより効果的に追跡できる対話情報を拡張するための、意図駆動型対話情報拡張モジュールを提案します。
さらに、DST データからノイズの多い情報をマスクし、Intent-driven Examples Retrieval モジュールでユーザーの入力を書き換えて、類似の例を取得します。
次に、事前トレーニングされた大規模言語モデルを利用して、拡張された対話情報と例を使用して対話状態を更新します。
実験結果は、IDIC-DST が MultiWOZ 2.1 および MultiWOZ 2.4 データセットの少数ショット設定で最先端のパフォーマンスを達成することを示しています。

要約(オリジナル)

Dialogue state tracking (DST) plays an essential role in task-oriented dialogue systems. However, user’s input may contain implicit information, posing significant challenges for DST tasks. Additionally, DST data includes complex information, which not only contains a large amount of noise unrelated to the current turn, but also makes constructing DST datasets expensive. To address these challenges, we introduce Intent-driven In-context Learning for Few-shot DST (IDIC-DST). By extracting user’s intent, we propose an Intent-driven Dialogue Information Augmentation module to augment the dialogue information, which can track dialogue states more effectively. Moreover, we mask noisy information from DST data and rewrite user’s input in the Intent-driven Examples Retrieval module, where we retrieve similar examples. We then utilize a pre-trained large language model to update the dialogue state using the augmented dialogue information and examples. Experimental results demonstrate that IDIC-DST achieves state-of-the-art performance in few-shot settings on MultiWOZ 2.1 and MultiWOZ 2.4 datasets.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google