A Proximal Algorithm for Sampling from Non-convex Potentials

要約

滑らかさを欠く非凸ポテンシャルに関連するサンプリング問題を研究します。
特に、対数ソボレフ不等式またはポアンカレ不等式のいずれかを満たすターゲット分布を検討します。
滑らかではなく、ポテンシャルは半滑らかまたは複数の半滑らかな関数の合計であると見なされます。
この困難なサンプリング タスクの最適化において、近位アルゴリズムに似たサンプリング アルゴリズムを開発します。
このアルゴリズムは、交互サンプリング フレームワーク (ASF) として知られるギブス サンプリングの特殊なケースに基づいています。
この作業の重要な貢献は、非凸および半滑らかな設定での拒否サンプリングに基づく ASF の実用的な実現です。
この作業は、\cite{LiaChe21,LiaChe22} の最近の非平滑/半平滑対数凹分布のアルゴリズムを非凸ポテンシャルの設定に拡張します。
この作業で考慮されたサンプリングのほとんどすべてのケースで、近位サンプリング アルゴリズムは既存のすべての方法よりも優れた複雑さを達成します。

要約(オリジナル)

We study sampling problems associated with non-convex potentials that meanwhile lack smoothness. In particular, we consider target distributions that satisfy either logarithmic-Sobolev inequality or Poincar\’e inequality. Rather than smooth, the potentials are assumed to be semi-smooth or the summation of multiple semi-smooth functions. We develop a sampling algorithm that resembles proximal algorithms in optimization for this challenging sampling task. Our algorithm is based on a special case of Gibbs sampling known as the alternating sampling framework (ASF). The key contribution of this work is a practical realization of the ASF based on rejection sampling in the non-convex and semi-smooth setting. This work extends the recent algorithm in \cite{LiaChe21,LiaChe22} for non-smooth/semi-smooth log-concave distribution to the setting with non-convex potentials. In almost all the cases of sampling considered in this work, our proximal sampling algorithm achieves better complexity than all existing methods.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google