Zero-Shot Slot and Intent Detection in Low-Resource Languages

要約

タイトル:低リソース言語におけるゼロショットスロットとインテント検出

要約:
– タスク指向の対話システムにおいて、意図検出とスロット埋め込みは非常に重要なタスクである。
– 本研究では、SID4LR(Aepliら、2023年)におけるスロットと意図検出に参加することを説明する。
– 我々は、さまざまなモデルと設定を用いて、スロットとインテント検出タスクを調査した。
– 大型言語モデルの多タスクプロンプトファインチューニングの最近の成功を考慮して、最近のエンコーダーデコーダーモデルmT0(Muennighoffら、2022年)の汎化能力を新しいタスク(すなわち、SID)で、意図的に触れたことのない言語にもテストしている。
– 我々は、最も優れたモデルがベースラインに比べて両方のSIDタスクで大幅に上回ることを示した(最大+30 F1ポイント)

要約(オリジナル)

Intent detection and slot filling are critical tasks in spoken and natural language understanding for task-oriented dialog systems. In this work we describe our participation in the slot and intent detection for low-resource language varieties (SID4LR; Aepli et al. (2023)). We investigate the slot and intent detection (SID) tasks using a wide range of models and settings. Given the recent success of multitask-prompted finetuning of large language models, we also test the generalization capability of the recent encoder-decoder model mT0 (Muennighoff et al., 2022) on new tasks (i.e., SID) in languages they have never intentionally seen. We show that our best model outperforms the baseline by a large margin (up to +30 F1 points) in both SID tasks

arxiv情報

著者 Sang Yun Kwon,Gagan Bhatia,El Moatez Billah Nagoudi,Alcides Alcoba Inciarte,Muhammad Abdul-Mageed
発行日 2023-04-26 05:10:12+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, OpenAI

カテゴリー: cs.CL パーマリンク