Distributional Gaussian Processes Layers for Out-of-Distribution Detection

要約

医用画像処理タスクにデプロイされた機械学習モデルは、誤った予測を回避するために、分布外検出機能を備えている必要があります。
ディープニューラルネットワークに依存する分布外検出モデルが、医用画像のドメインシフトを検出するのに適しているかどうかは不明です。
ガウス過程は、数学的構成により、分布内のデータポイントを分布外のデータポイントから確実に分離できます。
したがって、不確定性を確実に伝播するために、ワッサースタイン2空間で動作するガウス過程を組み込んだ階層的畳み込みガウス過程のパラメーター効率の高いベイズ層を提案します。
これにより、畳み込みガウス過程が、分布の距離を保持するアフィン演算子に直接置き換えられます。
脳組織セグメンテーションに関する私たちの実験は、結果として得られるアーキテクチャが、以前の階層的ガウス過程では達成されなかった、確立された決定論的セグメンテーションアルゴリズム（U-Net）のパフォーマンスに近づくことを示しています。
さらに、同じセグメンテーションモデルを分布外データ（つまり、脳腫瘍などの病理を伴う画像）に適用することにより、不確実性の推定により、以前のベイジアンネットワークの機能を上回る分布外検出が行われることを示します。
規範的な分布を学習する再構成ベースのアプローチ。
将来の作業を容易にするために、私たちのコードは公開されています。

要約(オリジナル)

Machine learning models deployed on medical imaging tasks must be equipped with out-of-distribution detection capabilities in order to avoid erroneous predictions. It is unsure whether out-of-distribution detection models reliant on deep neural networks are suitable for detecting domain shifts in medical imaging. Gaussian Processes can reliably separate in-distribution data points from out-of-distribution data points via their mathematical construction. Hence, we propose a parameter efficient Bayesian layer for hierarchical convolutional Gaussian Processes that incorporates Gaussian Processes operating in Wasserstein-2 space to reliably propagate uncertainty. This directly replaces convolving Gaussian Processes with a distance-preserving affine operator on distributions. Our experiments on brain tissue-segmentation show that the resulting architecture approaches the performance of well-established deterministic segmentation algorithms (U-Net), which has not been achieved with previous hierarchical Gaussian Processes. Moreover, by applying the same segmentation model to out-of-distribution data (i.e., images with pathology such as brain tumors), we show that our uncertainty estimates result in out-of-distribution detection that outperforms the capabilities of previous Bayesian networks and reconstruction-based approaches that learn normative distributions. To facilitate future work our code is publicly available.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google