Effective Open Intent Classification with K-center Contrastive Learning and Adjustable Decision Boundary

要約

タイトル：K-center Contrastive Learningと調整可能な決定境界による効果的なオープンインテント分類

要約：

– 対話システムで重要ながら困難なタスクである、既知インテントを対応するクラスに正しく分類しつつ、新しい未知の（オープンの）インテントを特定するオープンインテント分類の効果を高めるために、K-center contrastive learningとadjustable decision boundary learning（CLAB）を提案した。
– まず、ラベル付きのトレーニングインスタンスで特徴エンコーダーを事前学習させ、既知のインテントから未知のインテントへの知識転移を促進する。具体的には、K-center contrastive learningアルゴリズムを考案して、識別可能でバランスの取れたインテント特徴を学習し、オープンインテントの認識の汎化を改善する。
– 次に、展開と収縮のあるadjustable decision boundary learning方法（ADBES）を考案して、適切な決定条件を決定する。具体的には、各既知のインテントクラスに対して決定境界を学習し、決定中心と決定境界の半径から構成される。そして、決定境界から外れたインスタンスが遠い場合は、より多くのインクラスインスタンスを収容するために決定境界の半径を拡大し、そうでない場合は半径を縮小する。
– 3つのベンチマークデータセットの豊富な実験で、オープンインテント分類の有効性を明確に示す。再現性のために、コードをhttps://github.com/lxk00/CLAPに提出している。

要約(オリジナル)

Open intent classification, which aims to correctly classify the known intents into their corresponding classes while identifying the new unknown (open) intents, is an essential but challenging task in dialogue systems. In this paper, we introduce novel K-center contrastive learning and adjustable decision boundary learning (CLAB) to improve the effectiveness of open intent classification. First, we pre-train a feature encoder on the labeled training instances, which transfers knowledge from known intents to unknown intents. Specifically, we devise a K-center contrastive learning algorithm to learn discriminative and balanced intent features, improving the generalization of the model for recognizing open intents. Second, we devise an adjustable decision boundary learning method with expanding and shrinking (ADBES) to determine the suitable decision conditions. Concretely, we learn a decision boundary for each known intent class, which consists of a decision center and the radius of the decision boundary. We then expand the radius of the decision boundary to accommodate more in-class instances if the out-of-class instances are far from the decision boundary; otherwise, we shrink the radius of the decision boundary. Extensive experiments on three benchmark datasets clearly demonstrate the effectiveness of our method for open intent classification. For reproducibility, we submit the code at: https://github.com/lxk00/CLAP

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI