Identifying confounders in deep-learning-based model predictions using DeepRepViz

要約

ディープラーニング (DL) モデルは、神経画像データを分析し、脳、脳の病理、心理的特性に関する洞察を明らかにするためにますます使用されています。
ただし、参加者の年齢、性別、画像アーティファクトなどの無関係な「交絡因子」変数がモデルの予測に偏りを生じ、モデルが関連する脳と表現型の関係を学習できなくなる可能性があります。
この研究では、研究者が DL モデル予測における交絡因子を体系的に検出できるようにする「DeepRepViz」フレームワークと呼ばれるソリューションを提供します。
このフレームワークは、(1) 潜在的な交絡因子の影響を定量化するメトリクスと、(2) 研究者が DL モデルが学習している内容を定性的に検査できるようにする視覚化ツールで構成されます。
シミュレートされた神経画像データセットで実験を実行することで、DeepRepViz を DL モデルと組み合わせて使用​​する利点を実証します。
たとえば、神経画像データセットの実験では、慢性アルコール使用者を予測する DL モデルにおいて、性別が重大な交絡因子であることが明らかになりました (Con-score=0.35)。
同様に、DeepRepViz は、認知タスク (Con-score=0.3) における参加者のパフォーマンスを予測する DL モデルの交絡因子として年齢を特定します。
全体として、DeepRepViz を使用すると、研究者は潜在的な交絡因子を体系的にテストし、年齢、性別、画像アーティファクトなどの無関係な情報に依存する DL モデルを公開できます。

要約(オリジナル)

Deep Learning (DL) models are increasingly used to analyze neuroimaging data and uncover insights about the brain, brain pathologies, and psychological traits. However, extraneous `confounders’ variables such as the age of the participants, sex, or imaging artifacts can bias model predictions, preventing the models from learning relevant brain-phenotype relationships. In this study, we provide a solution called the `DeepRepViz’ framework that enables researchers to systematically detect confounders in their DL model predictions. The framework consists of (1) a metric that quantifies the effect of potential confounders and (2) a visualization tool that allows researchers to qualitatively inspect what the DL model is learning. By performing experiments on simulated and neuroimaging datasets, we demonstrate the benefits of using DeepRepViz in combination with DL models. For example, experiments on the neuroimaging datasets reveal that sex is a significant confounder in a DL model predicting chronic alcohol users (Con-score=0.35). Similarly, DeepRepViz identifies age as a confounder in a DL model predicting participants’ performance on a cognitive task (Con-score=0.3). Overall, DeepRepViz enables researchers to systematically test for potential confounders and expose DL models that rely on extraneous information such as age, sex, or imaging artifacts.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google