What do End-to-End Speech Models Learn about Speaker, Language and Channel Information? A Layer-wise and Neuron-level Analysis

要約

タイトル：エンドツーエンド音声モデルは話者、言語、チャネル情報について何を学ぶのか？レイヤー毎とニューロンレベルの分析

要約：
-　深層ニューラルネットワークは不透明で解釈するのが難しいです。ハンドクラフトフィーチャーベースモデルとは異なり、学習されたコンセプトと相互作用する方法を理解することは、エラー修正だけでなく、倫理的な意思決定においても重要です。
-　本研究では、さまざまなタスク（スピーカー認識、方言の識別など）のためにトレーニングされた音声モデルの発話レベル表現を解析します。スピーカー、言語、チャンネルの特性についてレイヤーとニューロン単位の分析を行います。この研究の目的は、次のことを明らかにすることです。
i)表現される情報は何か?
ii)それはどのように表現・分配されているか？
iii)ネットワーク内にこの情報を持つ最小のサブセットを特定できるか？
-　結果として、次のような新しい発見がされました。
i)チャンネル情報と性別情報はネットワーク全体に分散されています。
ii)この情報は、タスクに関して冗長的にニューロンで使用されます。
iii)口語的情報などの複雑な特性は、タスク指向の事前学習されたネットワークだけにエンコードされ、上位層に局所化されます。
iv)指定された特性をエンコードする最小のニューロンサブセットを抽出できます。
v)有意なニューロンは、特性間で共有されることがあります。
vi)分析では、ネットワーク内のバイアス（例えば性別）の存在が強調されます。
-　アーキテクチャの比較により、前学習モデルが話者不変情報をキャプチャすることがわかり、CNNモデルはトランスフォーマーモデルと競合していることがわかりました。

要約(オリジナル)

Deep neural networks are inherently opaque and challenging to interpret. Unlike hand-crafted feature-based models, we struggle to comprehend the concepts learned and how they interact within these models. This understanding is crucial not only for debugging purposes but also for ensuring fairness in ethical decision-making. In our study, we conduct a post-hoc functional interpretability analysis of pretrained speech models using the probing framework [1]. Specifically, we analyze utterance-level representations of speech models trained for various tasks such as speaker recognition and dialect identification. We conduct layer and neuron-wise analyses, probing for speaker, language, and channel properties. Our study aims to answer the following questions: i) what information is captured within the representations? ii) how is it represented and distributed? and iii) can we identify a minimal subset of the network that possesses this information? Our results reveal several novel findings, including: i) channel and gender information are distributed across the network, ii) the information is redundantly available in neurons with respect to a task, iii) complex properties such as dialectal information are encoded only in the task-oriented pretrained network, iv) and is localised in the upper layers, v) we can extract a minimal subset of neurons encoding the pre-defined property, vi) salient neurons are sometimes shared between properties, vii) our analysis highlights the presence of biases (for example gender) in the network. Our cross-architectural comparison indicates that: i) the pretrained models capture speaker-invariant information, and ii) CNN models are competitive with Transformer models in encoding various understudied properties.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI