Efficient PDE-Constrained optimization under high-dimensional uncertainty using derivative-informed neural operators

要約

我々は、高次元のランダムパラメータを持つ大規模偏微分方程式(PDE)によって支配される最適化問題を解くための新しい機械学習フレームワークを提案します。
このような不確実性の下での最適化 (OUU) 問題は、特に最適化アルゴリズムの反復ごとにリスク尺度を評価するために多数のサンプルが必要であり、各サンプルが解決コストの高い問題の解決を必要とする場合、従来の手法を使用すると法外な計算量になる可能性があります。
PDE。
この課題に対処するために、我々は、PDE 解演算子の新しいニューラル演算子近似を提案します。これには、(1) ランダム パラメータと最適化変数の共同入力から PDE 状態へのマップを正確に近似するだけでなく、
(2) 高次元の OUU 問題に拡張可能な縮小基底アーキテクチャを使用したニューラル ネットワークの効率的な構築、(3) 両方の高精度を達成するために必要なトレーニング データの数は限られた数だけです
PDE ソリューションと OUU ソリューションです。
このようなニューラル演算子を、多入力換算基底微分情報型ニューラル演算子 (MR-DINO) と呼びます。
我々は、いくつかの数値実験、すなわち、半線形楕円偏微分方程式のリスク回避制御と、それぞれがランダムな場の入力を含む2次元および3次元の空間次元での定常状態のナビエ・ストークス方程式などを通じて、アプローチの精度と効率を実証します。
例全体で、MR-DINO は実行時間を $10^{3}$–$10^{7} \times$ 削減し、10 ドルを超えながら標準的な PDE ベースのソリューションと同等の精度の OUU ソリューションを生成できます。
建設コストを考慮すると \倍$ のコスト効率が高くなります。

要約(オリジナル)

We propose a novel machine learning framework for solving optimization problems governed by large-scale partial differential equations (PDEs) with high-dimensional random parameters. Such optimization under uncertainty (OUU) problems may be computational prohibitive using classical methods, particularly when a large number of samples is needed to evaluate risk measures at every iteration of an optimization algorithm, where each sample requires the solution of an expensive-to-solve PDE. To address this challenge, we propose a new neural operator approximation of the PDE solution operator that has the combined merits of (1) accurate approximation of not only the map from the joint inputs of random parameters and optimization variables to the PDE state, but also its derivative with respect to the optimization variables, (2) efficient construction of the neural network using reduced basis architectures that are scalable to high-dimensional OUU problems, and (3) requiring only a limited number of training data to achieve high accuracy for both the PDE solution and the OUU solution. We refer to such neural operators as multi-input reduced basis derivative informed neural operators (MR-DINOs). We demonstrate the accuracy and efficiency our approach through several numerical experiments, i.e. the risk-averse control of a semilinear elliptic PDE and the steady state Navier–Stokes equations in two and three spatial dimensions, each involving random field inputs. Across the examples, MR-DINOs offer $10^{3}$–$10^{7} \times$ reductions in execution time, and are able to produce OUU solutions of comparable accuracies to those from standard PDE based solutions while being over $10 \times$ more cost-efficient after factoring in the cost of construction.

arxiv情報

著者 Dingcheng Luo,Thomas O’Leary-Roseberry,Peng Chen,Omar Ghattas
発行日 2023-05-31 17:26:20+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, cs.NA, math.NA, math.OC パーマリンク