A Deep Learning System for Domain-specific speech Recognition

要約

人間と機械の音声インターフェイスにより、ますますインテリジェントになる機械に簡単にアクセスできるようになるため、多くの最先端の自動音声認識 (ASR) システムが提案されています。
ただし、商用 ASR システムは通常、特にリソースが少ない設定では、ドメイン固有の音声でパフォーマンスが低下します。
著者は、事前トレーニング済みの DeepSpeech2 および Wav2Vec2 音響モデルを使用して、利益固有の ASR システムを開発しています。
ドメイン固有のデータは、人間の介入がほとんどない、提案されている半教師あり学習アノテーションを使用して収集されます。
最高のパフォーマンスは、外部の KenLM を使用して微調整された Wav2Vec2-Large-LV60 音響モデルから得られます。これは、特典固有のスピーチで Google および AWS ASR システムを上回ります。
音声言語理解 (SLU) の一部としてエラーが発生しやすい ASR トランスクリプションを使用する可能性も調査されます。
利益固有の自然言語理解 (NLU) タスクの結果は、ドメイン固有の微調整された ASR システムが、その文字起こしの単語エラー率 (WER) が高い場合でも、商用の ASR システムよりも優れていることを示しています。
ASR と人間の転写は似ています。

要約(オリジナル)

As human-machine voice interfaces provide easy access to increasingly intelligent machines, many state-of-the-art automatic speech recognition (ASR) systems are proposed. However, commercial ASR systems usually have poor performance on domain-specific speech especially under low-resource settings. The author works with pre-trained DeepSpeech2 and Wav2Vec2 acoustic models to develop benefit-specific ASR systems. The domain-specific data are collected using proposed semi-supervised learning annotation with little human intervention. The best performance comes from a fine-tuned Wav2Vec2-Large-LV60 acoustic model with an external KenLM, which surpasses the Google and AWS ASR systems on benefit-specific speech. The viability of using error prone ASR transcriptions as part of spoken language understanding (SLU) is also investigated. Results of a benefit-specific natural language understanding (NLU) task show that the domain-specific fine-tuned ASR system can outperform the commercial ASR systems even when its transcriptions have higher word error rate (WER), and the results between fine-tuned ASR and human transcriptions are similar.

arxiv情報

著者 Yanan Jia
発行日 2023-03-18 22:19:09+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.CL, cs.LG, cs.SD, eess.AS パーマリンク