QAID: Question Answering Inspired Few-shot Intent Detection

要約

意味的に類似した細密なインテントを持つインテント検出は、困難なタスクである。そこで、発話とインテント名を質問と回答として扱うことで、インテント検出を質問-回答検索タスクとして再定義する。そのため、質問-回答検索アーキテクチャを利用し、バッチコントラスト損失による2段階の学習スキーマを採用する。事前学習段階では、自己教師付き学習によりクエリ表現を改善する。次に、微調整段階において、同じインテントからのクエリと回答の間の文脈に応じたトークンレベルの類似性スコアを増加させる。3つの数撃ちゃ当たる方式での結果は、最先端の性能を達成している。

要約(オリジナル)

Intent detection with semantically similar fine-grained intents is a challenging task. To address it, we reformulate intent detection as a question-answering retrieval task by treating utterances and intent names as questions and answers. To that end, we utilize a question-answering retrieval architecture and adopt a two stages training schema with batch contrastive loss. In the pre-training stage, we improve query representations through self-supervised training. Then, in the fine-tuning stage, we increase contextualized token-level similarity scores between queries and answers from the same intent. Our results on three few-shot intent detection benchmarks achieve state-of-the-art performance.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL