End-to-end spoken language understanding using joint CTC loss and self-supervised, pretrained acoustic encoders

要約

音声言語理解（SLU）では、テキスト情報がないため、音声信号から直接意味を抽出することは困難である。一般的なエンドツーエンド（E2E）SLUモデルは、シーケンスからシーケンスへの自動音声認識（ASR）モデルを利用して、意味推定のための入力としてテキスト埋め込みを抽出しますが、計算量の多い自動回帰復号が必要です。本研究では、コネクショニスト時間分類（CTC）により微調整された自己教師付き音響エンコーダを活用してテキスト埋め込みを抽出し、発話レベルのSLUタスクにCTCとSLUの結合損失を使用する。実験によると、我々のモデルは、DSTC2データセットにおいて、最先端の対話行為分類モデル（SOTA）に対して4%の絶対的な改善を達成し、SLURPデータセットにおいて、SOTA SLUモデルに対して1.3%の絶対的な改善を達成する。

要約(オリジナル)

It is challenging to extract semantic meanings directly from audio signals in spoken language understanding (SLU), due to the lack of textual information. Popular end-to-end (E2E) SLU models utilize sequence-to-sequence automatic speech recognition (ASR) models to extract textual embeddings as input to infer semantics, which, however, require computationally expensive auto-regressive decoding. In this work, we leverage self-supervised acoustic encoders fine-tuned with Connectionist Temporal Classification (CTC) to extract textual embeddings and use joint CTC and SLU losses for utterance-level SLU tasks. Experiments show that our model achieves 4% absolute improvement over the the state-of-the-art (SOTA) dialogue act classification model on the DSTC2 dataset and 1.3% absolute improvement over the SOTA SLU model on the SLURP dataset.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL