Active Diffusion Subsampling

要約

サブサンプリングは、時間やエネルギー要件などのデータ取得に関連するコストを軽減するために一般的に使用され、部分的に観測された測定値 $y$ から完全にサンプリングされた対象信号 $x$ を推定するためのアルゴリズムの開発を促進します。
最大エントロピー サンプリングでは、$x$ に関する不確実性を最小限に抑えるために、最高のエントロピーを持つと予想される測定位置を選​​択します。
このアプローチは、これまでに観察された測定値を考慮した、将来の測定値にわたる事後分布の正確なモデルに依存しています。
最近、拡散モデルは誘導拡散を使用して高次元信号の高品質事後サンプルを生成することが示されています。
この研究では、誘導拡散を使用してアクティブ サブサンプリングを実行する方法であるアクティブ ディフュージョン サブサンプリング (ADS) を提案します。この方法では、モデルが逆拡散プロセス全体を通じて $x$ の真の状態に対する信念の分布を追跡し、その不確実性を段階的に減少させます。
最大の期待エントロピーで測定値を取得することを選択し、最終的に事後分布 $p(x | y)$ を生成します。
ADS は、任意のサブサンプリング レートに対して事前トレーニングされた拡散モデルを使用して適用でき、タスク固有の再トレーニングは必要ありません。測定モデルを指定するだけで済みます。
さらに、ADS が採用する最大エントロピー サンプリング ポリシーは解釈可能であり、ブラックボックス ポリシーを使用する既存の方法と比較して透明性が向上します。
実験的に、ADS が固定サンプリング戦略よりも優れたパフォーマンスを発揮することを示し、fastMRI データセットを使用した磁気共鳴画像加速における ADS の応用を研究し、ADS が教師あり手法と競合してパフォーマンスを発揮することを発見しました。
コードは https://active-diffusion-subsampling.github.io/ で入手できます。

要約(オリジナル)

Subsampling is commonly used to mitigate costs associated with data acquisition, such as time or energy requirements, motivating the development of algorithms for estimating the fully-sampled signal of interest $x$ from partially observed measurements $y$. In maximum-entropy sampling, one selects measurement locations that are expected to have the highest entropy, so as to minimize uncertainty about $x$. This approach relies on an accurate model of the posterior distribution over future measurements, given the measurements observed so far. Recently, diffusion models have been shown to produce high-quality posterior samples of high-dimensional signals using guided diffusion. In this work, we propose Active Diffusion Subsampling (ADS), a method for performing active subsampling using guided diffusion in which the model tracks a distribution of beliefs over the true state of $x$ throughout the reverse diffusion process, progressively decreasing its uncertainty by choosing to acquire measurements with maximum expected entropy, and ultimately generating the posterior distribution $p(x | y)$. ADS can be applied using pre-trained diffusion models for any subsampling rate, and does not require task-specific retraining – just the specification of a measurement model. Furthermore, the maximum entropy sampling policy employed by ADS is interpretable, enhancing transparency relative to existing methods using black-box policies. Experimentally, we show that ADS outperforms fixed sampling strategies, and study an application of ADS in Magnetic Resonance Imaging acceleration using the fastMRI dataset, finding that ADS performs competitively with supervised methods. Code available at https://active-diffusion-subsampling.github.io/.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google