SeACo-Paraformer: A Non-Autoregressive ASR System with Flexible and Effective Hotword Customization Ability

要約

ホットワードのカスタマイズは、ASR 分野に残された懸念事項の 1 つです。ASR システムのユーザーがエンティティ、人物、その他のフレーズの名前をカスタマイズして、より良いエクスペリエンスを得ることができるようにすることは価値があります。
ここ数年、ASR コンテキスト化のための効果的なモデリング戦略が開発されてきましたが、トレーニングの安定性と目に見えない活性化プロセスに関してはまだ改善の余地があります。
この論文では、柔軟かつ効果的なホットワード カスタマイズ機能を備えた新しい NAR ベースの ASR システムである Semantic-Augmented Contextual-Paraformer (SeACo-Paraformer) を提案します。
AED ベースのモデルの精度、NAR モデルの効率、および優れたパフォーマンスの明示的なカスタマイズ能力という利点を備えています。
50,000 時間の産業ビッグデータを使用した広範な実験を通じて、私たちが提案したモデルはカスタマイズにおいて強力なベースラインを上回りました。
さらに、さらなる改善のために、大規模な受信ホットワードをフィルタリングする効率的な方法を模索します。
比較した産業用モデル、ソース コード、および 2 つのホットワード テスト セットはすべてオープン ソースです。

要約(オリジナル)

Hotword customization is one of the concerned issues remained in ASR field – it is of value to enable users of ASR systems to customize names of entities, persons and other phrases to obtain better experience. The past few years have seen effective modeling strategies for ASR contextualization developed, but they still exhibit space for improvement about training stability and the invisible activation process. In this paper we propose Semantic-Augmented Contextual-Paraformer (SeACo-Paraformer) a novel NAR based ASR system with flexible and effective hotword customization ability. It possesses the advantages of AED-based model’s accuracy, NAR model’s efficiency, and explicit customization capacity of superior performance. Through extensive experiments with 50,000 hours of industrial big data, our proposed model outperforms strong baselines in customization. Besides, we explore an efficient way to filter large-scale incoming hotwords for further improvement. The industrial models compared, source codes and two hotword test sets are all open source.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google