QAID: Question Answering Inspired Few-shot Intent Detection

要約

意味的に類似したきめの細かいインテントを使用したインテント検出は、困難なタスクです。
それに対処するために、発話とインテント名を質問と回答として扱うことにより、インテント検出を質問応答検索タスクとして再定式化します。
そのために、質問応答検索アーキテクチャを利用し、バッチ対比損失を伴う 2 段階のトレーニング スキーマを採用します。
トレーニング前の段階では、自己教師ありトレーニングを通じてクエリ表現を改善します。
次に、微調整段階で、クエリと同じ意図からの回答との間のコンテキスト化されたトークン レベルの類似性スコアを増やします。
3 つの少数ショット インテント検出ベンチマークの結果は、最先端のパフォーマンスを達成しています。

要約(オリジナル)

Intent detection with semantically similar fine-grained intents is a challenging task. To address it, we reformulate intent detection as a question-answering retrieval task by treating utterances and intent names as questions and answers. To that end, we utilize a question-answering retrieval architecture and adopt a two stages training schema with batch contrastive loss. In the pre-training stage, we improve query representations through self-supervised training. Then, in the fine-tuning stage, we increase contextualized token-level similarity scores between queries and answers from the same intent. Our results on three few-shot intent detection benchmarks achieve state-of-the-art performance.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google