NoRefER: a Referenceless Quality Metric for Automatic Speech Recognition via Semi-Supervised Language Model Fine-Tuning with Contrastive Learning

要約

この文書では、自動音声認識 (ASR) システム用の新しい参照のない品質指標である NoRefER を紹介します。
ASR システムを評価するための従来の参照ベースのメトリクスには、コストのかかるグラウンドトゥルースの記録が必要です。
NoRefER は、Siamese ネットワーク アーキテクチャによる対照学習を使用して、ASR 仮説を​​ペアごとにランク付けするための多言語言語モデルを微調整することで、この制限を克服します。
自己監視型 NoRefER は、ASR の複数の圧縮レベルからの仮説間の既知の品質関係を利用して、品質によってサンプル内仮説をランク付けする方法を学習します。これはモデルの比較に不可欠です。
半教師ありバージョンでは、参照データセットを使用して、サンプル間の品質ランキングを向上させます。これは、潜在的にエラーのあるサンプルを選択するために重要です。
結果は、NoRefER がリファレンスベースの指標およびそのサンプル内ランクと高い相関関係を示し、リファレンスレス ASR 評価または a/b テストの可能性が高いことを示しています。

要約(オリジナル)

This paper introduces NoRefER, a novel referenceless quality metric for automatic speech recognition (ASR) systems. Traditional reference-based metrics for evaluating ASR systems require costly ground-truth transcripts. NoRefER overcomes this limitation by fine-tuning a multilingual language model for pair-wise ranking ASR hypotheses using contrastive learning with Siamese network architecture. The self-supervised NoRefER exploits the known quality relationships between hypotheses from multiple compression levels of an ASR for learning to rank intra-sample hypotheses by quality, which is essential for model comparisons. The semi-supervised version also uses a referenced dataset to improve its inter-sample quality ranking, which is crucial for selecting potentially erroneous samples. The results indicate that NoRefER correlates highly with reference-based metrics and their intra-sample ranks, indicating a high potential for referenceless ASR evaluation or a/b testing.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google