Bayesian computation with generative diffusion models by Multilevel Monte Carlo

要約

生成的拡散モデルは最近、ベイジアンの逆問題で確率的サンプリングを実行する強力な戦略として浮上し、幅広い挑戦的なアプリケーションのために非常に正確なソリューションを提供しています。
ただし、拡散モデルは、正確な後部サンプルを提供するために、サンプルごとに多数の神経関数評価を必要とすることがよくあります。
その結果、ベイジアン計算におけるモンテカルロ統合のための確率的サンプラーとして拡散モデルを使用することは、特に不確実性の定量化分析を実施するためにかなりの数のモンテカルロサンプルを必要とするアプリケーションでは、非常に計算的に高価です。
このコストは、評価に費用がかかる大規模なニューラルネットワークに依存する計算イメージングなどの大規模な逆問題で特に高くなります。
定量的なイメージングアプリケーションを念頭に置いて、このペーパーでは、拡散モデルを使用したベイジアン計算のコストを大幅に削減するマルチレベルモンテカルロ戦略を紹介します。
これは、拡散モデルに固有のコスト加算トレードオフを活用して、最終的な精度を減らすことなく、計算の全体的なコストを大幅に削減する方法で、異なるレベルの精度のモデルを慎重に結合することによって達成されます。
提案されたアプローチは、$ 4 \ Times $ -TO-8 \ Times $の計算コストW.R.Tを達成します。
3つのベンチマークイメージングの問題にわたる標準的な手法。

要約(オリジナル)

Generative diffusion models have recently emerged as a powerful strategy to perform stochastic sampling in Bayesian inverse problems, delivering remarkably accurate solutions for a wide range of challenging applications. However, diffusion models often require a large number of neural function evaluations per sample in order to deliver accurate posterior samples. As a result, using diffusion models as stochastic samplers for Monte Carlo integration in Bayesian computation can be highly computationally expensive, particularly in applications that require a substantial number of Monte Carlo samples for conducting uncertainty quantification analyses. This cost is especially high in large-scale inverse problems such as computational imaging, which rely on large neural networks that are expensive to evaluate. With quantitative imaging applications in mind, this paper presents a Multilevel Monte Carlo strategy that significantly reduces the cost of Bayesian computation with diffusion models. This is achieved by exploiting cost-accuracy trade-offs inherent to diffusion models to carefully couple models of different levels of accuracy in a manner that significantly reduces the overall cost of the calculation, without reducing the final accuracy. The proposed approach achieves a $4\times$-to-$8\times$ reduction in computational cost w.r.t. standard techniques across three benchmark imaging problems.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google