Single-seed generation of Brownian paths and integrals for adaptive and high order SDE solvers

要約

ODE シミュレーションにおける適応タイムステップの成功にもかかわらず、確率微分方程式 (SDE) への応用はこれまでのところほとんど見られていません。
SDE を適応的にシミュレートするために、ブラウン運動 (BM) を非時間的に生成できる仮想ブラウン ツリー (VBT) などの方法が開発されています。
ただし、ほとんどのアプリケーションでは、ブラウン運動の値を知っているだけでは、高次の収束を達成するには十分ではありません。
そのためには、$\int_s^t W_r \, dr$ などの BM の時間積分を計算する必要があります。
高次 SDE ソルバーを適応的に使用することを目的として、ブラウン増分に加えて BM のこれらの積分を生成するように VBT を拡張しました。
私たちの構築の JAX ベースの実装は、人気のある Diffrax ライブラリ (https://github.com/patrick-kidger/diffrax) に含まれています。
VBT によって生成されるブラウン パス全体は単一の PRNG シードによって一意に決定されるため、以前に生成されたサンプルを保存する必要がなく、メモリ フットプリントが一定になり、実験の再現性と強力な誤差推定が可能になります。
二分探索に基づくと、VBT の時間計算量は、許容パラメーター $\varepsilon$ で対数になります。
一部の二項時間でしか正確ではなかった元の VBT アルゴリズムとは異なり、少なくとも $\varepsilon$ 離れていれば、私たちの構築は任意のクエリ時間でブラウン運動とその時間積分の同時分布と正確に一致することを証明します。
新しい VBT によって可能になる適応高次ソルバーの 2 つのアプリケーションを紹介します。
適応ソルバーを使用して高ボラティリティ CIR モデルをシミュレートすると、一定ステップの 2 倍を超える収束次数を達成できます。
適応型 3 次の不足減衰または動的ランジュバン ソルバーを MCMC 問題に適用します。このアプローチでは、関数評価の 10 分の 1 のみを使用しながら、U ターンなしサンプラーよりも優れたパフォーマンスを発揮します。

要約(オリジナル)

Despite the success of adaptive time-stepping in ODE simulation, it has so far seen few applications for Stochastic Differential Equations (SDEs). To simulate SDEs adaptively, methods such as the Virtual Brownian Tree (VBT) have been developed, which can generate Brownian motion (BM) non-chronologically. However, in most applications, knowing only the values of Brownian motion is not enough to achieve a high order of convergence; for that, we must compute time-integrals of BM such as $\int_s^t W_r \, dr$. With the aim of using high order SDE solvers adaptively, we extend the VBT to generate these integrals of BM in addition to the Brownian increments. A JAX-based implementation of our construction is included in the popular Diffrax library (https://github.com/patrick-kidger/diffrax). Since the entire Brownian path produced by VBT is uniquely determined by a single PRNG seed, previously generated samples need not be stored, which results in a constant memory footprint and enables experiment repeatability and strong error estimation. Based on binary search, the VBT’s time complexity is logarithmic in the tolerance parameter $\varepsilon$. Unlike the original VBT algorithm, which was only precise at some dyadic times, we prove that our construction exactly matches the joint distribution of the Brownian motion and its time integrals at any query times, provided they are at least $\varepsilon$ apart. We present two applications of adaptive high order solvers enabled by our new VBT. Using adaptive solvers to simulate a high-volatility CIR model, we achieve more than twice the convergence order of constant stepping. We apply an adaptive third order underdamped or kinetic Langevin solver to an MCMC problem, where our approach outperforms the No U-Turn Sampler, while using only a tenth of its function evaluations.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google