DeepRepViz: Identifying Confounders in Deep Learning Model Predictions

要約

深層学習 (DL) モデルは、心理的行動、認知特性、脳の病理を予測するための神経画像研究で人気を集めています。
ただし、これらのモデルは、年齢、性別、取得プロセスからの画像アーティファクトなどの交絡因子によってバイアスがかかる可能性があります。
これに対処するために、DL モデル予測における交絡因子を特定するために設計された 2 部構成のフレームワークである「DeepRepViz」を導入します。
最初のコンポーネントは、DL モデルの最終的な潜在表現を定性的に調べるために使用できる視覚化ツールです。
2 番目のコンポーネントは、DL モデルの最終的な潜在表現を使用して、変数に関連する交絡因子リスクを定量化する「コンスコア」と呼ばれる指標です。
単純なシミュレーション設定を使用して、シミュレートされた交絡因子の強度を繰り返し変更し、対応するコンスコアの変化を観察することにより、コンスコアの有効性を実証します。
次に、(a) 慢性アルコール使用者の予測、(b) 参加者の性別の分類、(c) パフォーマンスの予測を含む 3 つの MRI 表現型予測タスクを実行することにより、大規模な神経画像データセット (n=12000) で DeepRepViz フレームワークを検証します。
「トレイルメイキング」と呼ばれる認知タスクの速度。
DeepRepViz は、慢性アルコール使用者を予測する DL モデル (Con-score=0.35) の重要な交絡因子として性別を特定し、認知タスクのパフォーマンスを予測するモデル (Con-score=0.3) の交絡因子として年齢を特定します。
結論として、DeepRepViz フレームワークは、年齢、性別、画像アーティファクトなどの潜在的な交絡因子をテストする体系的なアプローチを提供し、神経画像研究のための DL モデルの透明性を向上させます。

要約(オリジナル)

Deep Learning (DL) models have gained popularity in neuroimaging studies for predicting psychological behaviors, cognitive traits, and brain pathologies. However, these models can be biased by confounders such as age, sex, or imaging artifacts from the acquisition process. To address this, we introduce ‘DeepRepViz’, a two-part framework designed to identify confounders in DL model predictions. The first component is a visualization tool that can be used to qualitatively examine the final latent representation of the DL model. The second component is a metric called ‘Con-score’ that quantifies the confounder risk associated with a variable, using the final latent representation of the DL model. We demonstrate the effectiveness of the Con-score using a simple simulated setup by iteratively altering the strength of a simulated confounder and observing the corresponding change in the Con-score. Next, we validate the DeepRepViz framework on a large-scale neuroimaging dataset (n=12000) by performing three MRI-phenotype prediction tasks that include (a) predicting chronic alcohol users, (b) classifying participant sex, and (c) predicting performance speed on a cognitive task called ‘trail making’. DeepRepViz identifies sex as a significant confounder in the DL model predicting chronic alcohol users (Con-score=0.35) and age as a confounder in the model predicting cognitive task performance (Con-score=0.3). In conclusion, the DeepRepViz framework provides a systematic approach to test for potential confounders such as age, sex, and imaging artifacts and improves the transparency of DL models for neuroimaging studies.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google