Improving PINNs By Algebraic Inclusion of Boundary and Initial Conditions

要約

「AI for Science」は、AI 技術を使用して基本的な科学的問題を解決することを目的としています。
ほとんどの物理現象は偏微分方程式 (PDE) として記述できるため、ニューラル ネットワークを使用してその解を近似することは、科学 ML の中心的なコンポーネントとして進化してきました。
Physics-Informed Neural Networks (PINN) は、このタスクのために進化した一般的な方法ですが、そのトレーニングは非常に不安定であることがよく知られています。
この研究では、トレーニング対象のモデルを単なるニューラル ネットワークからその非線形変換、つまり境界/初期条件を代数的に含むものに変更する可能性を探ります。
これにより、標準の PINN 損失よりも損失関数の項の数が減少します。
私たちは、トレーニング アルゴリズムを微調整することなく、この変更によりさまざまなベンチマーク タスクにわたってさまざまな次元でパフォーマンスが大幅に向上することを実証しました。
私たちの結論は、正確に解けるシナリオに設定された複数の線形偏微分方程式および非線形偏微分方程式に対して、完全に教師なしの設定で数百回の実験を実施したことに基づいています。これは、桁違いに低いパフォーマンスの向上を具体的に測定するのに役立ちます。
標準の PINN よりも小数エラーが発生します。
この原稿に付随するコードは、https://github.com/MorganREN/Improving-PINNs-By-Algebraic-Inclusion-of-Boundary-and-Initial-Conditions で公開されています。

要約(オリジナル)

‘AI for Science’ aims to solve fundamental scientific problems using AI techniques. As most physical phenomena can be described as Partial Differential Equations (PDEs) , approximating their solutions using neural networks has evolved as a central component of scientific-ML. Physics-Informed Neural Networks (PINNs) is the general method that has evolved for this task but its training is well-known to be very unstable. In this work we explore the possibility of changing the model being trained from being just a neural network to being a non-linear transformation of it – one that algebraically includes the boundary/initial conditions. This reduces the number of terms in the loss function than the standard PINN losses. We demonstrate that our modification leads to significant performance gains across a range of benchmark tasks, in various dimensions and without having to tweak the training algorithm. Our conclusions are based on conducting hundreds of experiments, in the fully unsupervised setting, over multiple linear and non-linear PDEs set to exactly solvable scenarios, which lends to a concrete measurement of our performance gains in terms of order(s) of magnitude lower fractional errors being achieved, than by standard PINNs. The code accompanying this manuscript is publicly available at, https://github.com/MorganREN/Improving-PINNs-By-Algebraic-Inclusion-of-Boundary-and-Initial-Conditions

arxiv情報

提供元, 利用サービス

arxiv.jp, Google