A Deterministic Sampling Method via Maximum Mean Discrepancy Flow with Adaptive Kernel

要約

最大平均の不一致（MMD）としても知られるカーネルの不一致を最小化することにより、ターゲット分布$ \ rho^*$を近似する新しい決定論的サンプリング方法を提案します。
一般的な\ emphing {エネルギー変分推論}フレームワーク（Wang et al。、2021）を使用することにより、MMDを最小化する問題を粒子の動的なODEシステムを解くことに変換します。
暗黙のオイラー数値スキームを採用して、ODEシステムを解決します。
これにより、粒子の更新の各反復に近位最小化問題が発生します。これは、L-BFGSなどの最適化アルゴリズムによって解決できます。
提案された方法はEVI-MMDと名付けられています。
ガウスカーネルの帯域幅選択の長い既存の問題を克服するために、帯域幅を動的に指定する新しい方法を提案します。
包括的な数値研究を通じて、提案された適応帯域幅がEVI-MMDを大幅に改善することを示しました。
EVI-MMDアルゴリズムを使用して、2種類のサンプリング問題を解決します。
最初のタイプでは、ターゲット分布は完全に指定された密度関数によって与えられます。
2番目のタイプは「2サンプルの問題」であり、トレーニングデータのみが利用可能です。
EVI-MMDメソッドは、トレーニングデータと同じ分布に従う新しいサンプルを生成する生成学習モデルとして使用されます。
チューニングパラメーターの推奨設定により、提案されているEVI-MMDメソッドが両方のタイプの問題についていくつかの既存の方法を上回ることを示します。

要約(オリジナル)

We propose a novel deterministic sampling method to approximate a target distribution $\rho^*$ by minimizing the kernel discrepancy, also known as the Maximum Mean Discrepancy (MMD). By employing the general \emph{energetic variational inference} framework (Wang et al., 2021), we convert the problem of minimizing MMD to solving a dynamic ODE system of the particles. We adopt the implicit Euler numerical scheme to solve the ODE systems. This leads to a proximal minimization problem in each iteration of updating the particles, which can be solved by optimization algorithms such as L-BFGS. The proposed method is named EVI-MMD. To overcome the long-existing issue of bandwidth selection of the Gaussian kernel, we propose a novel way to specify the bandwidth dynamically. Through comprehensive numerical studies, we have shown the proposed adaptive bandwidth significantly improves the EVI-MMD. We use the EVI-MMD algorithm to solve two types of sampling problems. In the first type, the target distribution is given by a fully specified density function. The second type is a ‘two-sample problem’, where only training data are available. The EVI-MMD method is used as a generative learning model to generate new samples that follow the same distribution as the training data. With the recommended settings of the tuning parameters, we show that the proposed EVI-MMD method outperforms some existing methods for both types of problems.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google