GEPS: Boosting Generalization in Parametric PDE Neural Solvers through Adaptive Conditioning

要約

パラメトリック偏微分方程式 (PDE) を解くことは、PDE パラメーターの変動に対する時空間ダイナミクスの影響を受けやすいため、データ駆動型の手法にとって大きな課題となります。
機械学習のアプローチでは、この変動性を捉えるのに苦労することがよくあります。
これに対処するために、データ駆動型のアプローチでは、さまざまな PDE パラメーターを使用して非常に多様な軌道をサンプリングすることでパラメトリック PDE を学習します。
まず、パラメトリック偏微分方程式を学習するための条件付けメカニズムを組み込むことが不可欠であり、その中の $\textit{適応条件付け}$ により、より強力な一般化が可能になることを示します。
既存の適応調整法は、ニューラル ソルバーで適応するパラメーターの数に関して十分に拡張できないため、一次最適化と低ランクの高速適応を介して Pde ソルバーでの GEneralization を促進するシンプルな適応メカニズムである GEPS を提案します。
コンテキストパラメータの小さなセット。
私たちは、完全なデータ駆動型と物理認識ニューラル ソルバーの両方に対するアプローチの多用途性を実証します。
時空間予測問題の全範囲に対して実行された検証は、初期条件、偏微分方程式係数、強制項、解領域などの目に見えない条件を一般化する際に優れたパフォーマンスを示します。
$\textit{プロジェクト ページ}$: https://geps-project.github.io

要約(オリジナル)

Solving parametric partial differential equations (PDEs) presents significant challenges for data-driven methods due to the sensitivity of spatio-temporal dynamics to variations in PDE parameters. Machine learning approaches often struggle to capture this variability. To address this, data-driven approaches learn parametric PDEs by sampling a very large variety of trajectories with varying PDE parameters. We first show that incorporating conditioning mechanisms for learning parametric PDEs is essential and that among them, $\textit{adaptive conditioning}$, allows stronger generalization. As existing adaptive conditioning methods do not scale well with respect to the number of parameters to adapt in the neural solver, we propose GEPS, a simple adaptation mechanism to boost GEneralization in Pde Solvers via a first-order optimization and low-rank rapid adaptation of a small set of context parameters. We demonstrate the versatility of our approach for both fully data-driven and for physics-aware neural solvers. Validation performed on a whole range of spatio-temporal forecasting problems demonstrates excellent performance for generalizing to unseen conditions including initial conditions, PDE coefficients, forcing terms and solution domain. $\textit{Project page}$: https://geps-project.github.io

arxiv情報

提供元, 利用サービス

arxiv.jp, Google