Handling the Alignment for Wake Word Detection: A Comparison Between Alignment-Based, Alignment-Free and Hybrid Approaches

要約

ウェイク ワード検出は、ほとんどのインテリジェント ホームやポータブル デバイスに搭載されています。
これらのデバイスは、電力とコンピューティングの低コストで呼び出されたときに「ウェイクアップ」する機能を提供します。
このホワイト ペーパーでは、一般的なフレーズに応答するウェイク ワード システムの開発におけるアラインメントの役割を理解することに焦点を当てています。
3 つのアプローチについて説明します。
1 つ目はアライメント ベースで、モデルはフレーム単位のクロス エントロピーでトレーニングされます。
2 つ目は、モデルが CTC でトレーニングされるアライメント フリーです。
3 つ目は、私たちが提案したハイブリッド ソリューションです。このソリューションでは、モデルが整列されたデータの小さなセットでトレーニングされ、その後、かなりの整列されていないデータセットで調整されます。
3 つのアプローチを比較し、ハイブリッド トレーニングのさまざまな整列対非整列比の影響を評価します。
私たちの結果は、アライメントのないシステムがターゲット操作点に対してアライメントベースでより優れたパフォーマンスを発揮し、データのごく一部 (20%) で、初期の制約に準拠するモデルをトレーニングできることを示しています。

要約(オリジナル)

Wake word detection exists in most intelligent homes and portable devices. It offers these devices the ability to ‘wake up’ when summoned at a low cost of power and computing. This paper focuses on understanding alignment’s role in developing a wake-word system that answers a generic phrase. We discuss three approaches. The first is alignment-based, where the model is trained with frame-wise cross-entropy. The second is alignment-free, where the model is trained with CTC. The third, proposed by us, is a hybrid solution in which the model is trained with a small set of aligned data and then tuned with a sizeable unaligned dataset. We compare the three approaches and evaluate the impact of the different aligned-to-unaligned ratios for hybrid training. Our results show that the alignment-free system performs better alignment-based for the target operating point, and with a small fraction of the data (20%), we can train a model that complies with our initial constraints.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google