Unsupervised Detection of Distribution Shift in Inverse Problems using Diffusion Models

要約

拡散モデルは、イメージングの逆の問題の事前に広く使用されています。
ただし、トレーニングとテスト時間画像の間の分布シフト下でのパフォーマンスはしばしば低下します。
分布シフトを識別および定量化するための既存の方法は、通常、逆の問題を解決している間はほとんど利用できないクリーンなテスト画像へのアクセスを必要とします（テスト時に）。
さまざまなデータセットでトレーニングされた拡散モデルからの間接（破損）測定とスコア関数のみを使用して、分布シフトを推定するための完全に監視されていないメトリックを提案します。
理論的には、このメトリックがトレーニングとテストの画像分布との間のKLの発散を推定することを示しています。
経験的には、スコアベースのメトリックは、破損した測定のみを使用して、クリーン画像から計算されたKL発散に密接に近似していることを示しています。
この結果に動機付けられているため、分散除外スコアを配置中のスコアに合わせると、破損した測定のみを使用してKLの発散が減少し、複数の逆問題にわたって再構成品質が向上することが示されます。

要約(オリジナル)

Diffusion models are widely used as priors in imaging inverse problems. However, their performance often degrades under distribution shifts between the training and test-time images. Existing methods for identifying and quantifying distribution shifts typically require access to clean test images, which are almost never available while solving inverse problems (at test time). We propose a fully unsupervised metric for estimating distribution shifts using only indirect (corrupted) measurements and score functions from diffusion models trained on different datasets. We theoretically show that this metric estimates the KL divergence between the training and test image distributions. Empirically, we show that our score-based metric, using only corrupted measurements, closely approximates the KL divergence computed from clean images. Motivated by this result, we show that aligning the out-of-distribution score with the in-distribution score — using only corrupted measurements — reduces the KL divergence and leads to improved reconstruction quality across multiple inverse problems.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google