Automatic Speech Recognition using Advanced Deep Learning Approaches: A survey

要約

近年のディープラーニング（DL）の進歩は、自動音声認識（ASR）に大きな課題を突きつけている。ASRは、秘匿性を含む膨大な学習データセットに依存し、かなりの計算資源とストレージ資源を要求する。適応的なシステムを可能にすることで、動的な環境におけるASRの性能が向上します。DL技法は、訓練データとテストデータが同じドメインに由来することを前提としていますが、これは必ずしも真実ではありません。深層伝達学習（DTL）、連合学習（FL）、強化学習（RL）のような高度なDL技術は、これらの問題に対処する。DTLは、小規模でありながら関連性のあるデータセットを用いた高性能モデルを可能にし、FLは、データセットを所有することなく機密データを用いた学習を可能にし、RLは、動的環境における意思決定を最適化し、計算コストを削減する。本サーベイでは、DTL、FL、RLベースのASRフレームワークの包括的なレビューを行い、最新の開発に関する洞察を提供し、研究者や専門家が現在の課題を理解する一助となることを目指す。さらに、提案されているASRフレームワークで多用されている高度なDL技術であるトランスフォーマーは、入力ASRシーケンスにおける広範な依存関係を捕捉する能力があるため、本サーベイで検討される。本稿では、まずDTL、FL、RL、トランスフォーマーの背景を紹介し、次に最新のアプローチを概説するためによく設計された分類法を採用する。その後、各フレームワークの長所と短所を明らかにするために批判的分析を行う。さらに、既存の課題を浮き彫りにするための比較研究を提示し、将来の研究機会への道を開く。

要約(オリジナル)

Recent advancements in deep learning (DL) have posed a significant challenge for automatic speech recognition (ASR). ASR relies on extensive training datasets, including confidential ones, and demands substantial computational and storage resources. Enabling adaptive systems improves ASR performance in dynamic environments. DL techniques assume training and testing data originate from the same domain, which is not always true. Advanced DL techniques like deep transfer learning (DTL), federated learning (FL), and reinforcement learning (RL) address these issues. DTL allows high-performance models using small yet related datasets, FL enables training on confidential data without dataset possession, and RL optimizes decision-making in dynamic environments, reducing computation costs. This survey offers a comprehensive review of DTL, FL, and RL-based ASR frameworks, aiming to provide insights into the latest developments and aid researchers and professionals in understanding the current challenges. Additionally, transformers, which are advanced DL techniques heavily used in proposed ASR frameworks, are considered in this survey for their ability to capture extensive dependencies in the input ASR sequence. The paper starts by presenting the background of DTL, FL, RL, and Transformers and then adopts a well-designed taxonomy to outline the state-of-the-art approaches. Subsequently, a critical analysis is conducted to identify the strengths and weaknesses of each framework. Additionally, a comparative study is presented to highlight the existing challenges, paving the way for future research opportunities.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL