Overlap-aware End-to-End Supervised Hierarchical Graph Clustering for Speaker Diarization

要約

話者ダイアライゼーションは、話者のアイデンティティに基づいてオーディオ録音をセグメント化するタスクであり、いくつかの下流アプリケーションにとって重要な音声前処理ステップを構成します。
ダイアライゼーションへの従来のアプローチには、埋め込み抽出とクラスタリングという複数のステップが含まれており、多くの場合、これらは個別の方法で最適化されます。
エンドツーエンドのダイアライゼーション システムは、タスクに対して単一のモデルを学習しようとしますが、多くの場合、トレーニングが面倒で、大規模な教師付きデータセットが必要になります。
この論文では、エンドツーエンド教師あり階層クラスタリング (E-SHARC) と呼ばれる、グラフ ニューラル ネットワーク (GNN) に基づくエンドツーエンド教師あり階層クラスタリング アルゴリズムを提案します。
E-SHARC アプローチは、フロントエンドのメル フィルターバンク機能を入力として使用し、エンベディング エクストラクターと GNN クラスタリング モジュールを共同で学習し、表現学習、メトリック学習、およびエンドツーエンドの最適化によるクラスタリングを実行します。
さらに、外部オーバーラップ検出器からの追加入力により、E-SHARC アプローチは、オーバーラップする音声領域内の話者を予測できます。
AMI、VoxConverse、DISPLACE などのいくつかのベンチマーク データセットに対する実験的評価は、提案された E-SHARC フレームワークが最先端のダイアライゼーション システムより大幅に改善されていることを示しています。

要約(オリジナル)

Speaker diarization, the task of segmenting an audio recording based on speaker identity, constitutes an important speech pre-processing step for several downstream applications. The conventional approach to diarization involves multiple steps of embedding extraction and clustering, which are often optimized in an isolated fashion. While end-to-end diarization systems attempt to learn a single model for the task, they are often cumbersome to train and require large supervised datasets. In this paper, we propose an end-to-end supervised hierarchical clustering algorithm based on graph neural networks (GNN), called End-to-end Supervised HierARchical Clustering (E-SHARC). The E-SHARC approach uses front-end mel-filterbank features as input and jointly learns an embedding extractor and the GNN clustering module, performing representation learning, metric learning, and clustering with end-to-end optimization. Further, with additional inputs from an external overlap detector, the E-SHARC approach is capable of predicting the speakers in the overlapping speech regions. The experimental evaluation on several benchmark datasets like AMI, VoxConverse and DISPLACE, illustrates that the proposed E-SHARC framework improves significantly over the state-of-art diarization systems.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google