An Extreme Learning Machine-Based Method for Computational PDEs in Higher Dimensions

要約

ランダム化ニューラル ネットワークに基づいて高次元偏微分方程式 (PDE) を解くための 2 つの効果的な方法を紹介します。
このタイプのネットワークの普遍的な近似特性を利用して、どちらの方法も極限学習機械 (ELM) アプローチを低次元から高次元まで拡張します。
最初の方法では、$d$ 次元の未知の解場は、ランダム化されたフィードフォワード ニューラル ネットワークによって表されます。このネットワークでは、出力層パラメーターがトレーニングされる間に、隠れ層パラメーターがランダムに割り当てられ、固定されます。
PDE と境界/初期条件、および連続性条件 (メソッドのローカル バリアントの場合) は、ランダムな内部/境界コロケーション ポイントのセットに適用されます。
結果として得られる線形または非線形代数システムは、最小二乗解を通じて、ネットワーク パラメーターのトレーニングされた値を提供します。
2 番目の方法では、関数接続理論 (A-TFC) の近似変形に基づく制約付き式を通じて高次元 PDE 問題が再定式化され、次元の増加に伴う TFC の項数の指数関数的な増加が回避されます。
A-TFC 制約式の自由場関数は、ランダム化されたニューラル ネットワークによって表され、最初の方法と同様の手順によってトレーニングされます。
我々は、多数の高次元線形/非線形定常/動的偏微分方程式のパフォーマンスを実証するための豊富な数値シミュレーションを提示します。
これらの方法は、高次元偏微分方程式に対する正確な解を生成でき、特にその誤差は比較的低次元の機械精度からそれほど遠くないレベルに達します。
物理情報に基づくニューラル ネットワーク (PINN) 手法と比較して、現在の手法はコスト効率が高く、高次元偏微分方程式の精度も高くなります。

要約(オリジナル)

We present two effective methods for solving high-dimensional partial differential equations (PDE) based on randomized neural networks. Motivated by the universal approximation property of this type of networks, both methods extend the extreme learning machine (ELM) approach from low to high dimensions. With the first method the unknown solution field in $d$ dimensions is represented by a randomized feed-forward neural network, in which the hidden-layer parameters are randomly assigned and fixed while the output-layer parameters are trained. The PDE and the boundary/initial conditions, as well as the continuity conditions (for the local variant of the method), are enforced on a set of random interior/boundary collocation points. The resultant linear or nonlinear algebraic system, through its least squares solution, provides the trained values for the network parameters. With the second method the high-dimensional PDE problem is reformulated through a constrained expression based on an Approximate variant of the Theory of Functional Connections (A-TFC), which avoids the exponential growth in the number of terms of TFC as the dimension increases. The free field function in the A-TFC constrained expression is represented by a randomized neural network and is trained by a procedure analogous to the first method. We present ample numerical simulations for a number of high-dimensional linear/nonlinear stationary/dynamic PDEs to demonstrate their performance. These methods can produce accurate solutions to high-dimensional PDEs, in particular with their errors reaching levels not far from the machine accuracy for relatively lower dimensions. Compared with the physics-informed neural network (PINN) method, the current method is both cost-effective and more accurate for high-dimensional PDEs.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google