Solving Inverse Problems with Score-Based Generative Priors learned from Noisy Data

要約

タイトル: ノイズの混入したデータから学習したスコアベースの生成モデルを用いた逆問題の解決

要約:
– SURE-Scoreという手法を提案している。
– ノイズが混入したトレーニングデータを用いてスコアベースの生成モデルを学習することができる。
– 大量のきれいなトレーニングデータが利用可能な場合、スコアベース（拡散）生成モデルを用いて逆問題を解決することが最近示されている。
– ターゲットにするデータがすべて揃えてある場合は、エンドツーエンドの監視付きのディープラーニングを上回ります。
– しかし、現実には、このような大規模なトレーニングデータの収集そのものが困難かつ費用がかかることが多い。
– 本研究では、ノイズのあるトレーニングデータからクリーン分布のスコアベース生成モデルを近似的に学習する手法を提案している。
– データの雑音を取り除き、同時にスコア関数を学習するための新しい損失関数を定式化して正当化し、デノイジングスコアマッチングを使用して、雑音が入ったサンプルしか使用しない。
– SURE-Scoreの汎用性を示すために、異なるドメインからプライオリティを学習し、2つの実用的なアプリケーションで不良な逆問題に事後サンプリングを適用する。
– 1つは、圧縮無線多入力多出力チャネル推定、もう1つは加速2次元マルチコイル磁気共鳴画像再構成。
– どちらのアプリケーションにおいても、信号対雑音比が0および10dBの場合に学習すると、競争力のある再構成性能を示す。

要約(オリジナル)

We present SURE-Score: an approach for learning score-based generative models using training samples corrupted by additive Gaussian noise. When a large training set of clean samples is available, solving inverse problems via score-based (diffusion) generative models trained on the underlying fully-sampled data distribution has recently been shown to outperform end-to-end supervised deep learning. In practice, such a large collection of training data may be prohibitively expensive to acquire in the first place. In this work, we present an approach for approximately learning a score-based generative model of the clean distribution, from noisy training data. We formulate and justify a novel loss function that leverages Stein’s unbiased risk estimate to jointly denoise the data and learn the score function via denoising score matching, while using only the noisy samples. We demonstrate the generality of SURE-Score by learning priors and applying posterior sampling to ill-posed inverse problems in two practical applications from different domains: compressive wireless multiple-input multiple-output channel estimation and accelerated 2D multi-coil magnetic resonance imaging reconstruction, where we demonstrate competitive reconstruction performance when learning at signal-to-noise ratio values of 0 and 10 dB, respectively.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI