Feature Mapping in Physics-Informed Neural Networks (PINNs)

要約

この論文では、制限付き共役カーネルとニューラル タンジェント カーネルを介した特徴マッピング層による PINN のトレーニング ダイナミクスを調査し、PINN の収束に光を当てます。
一般的に使用されているフーリエベースの特徴マッピングは大きな成功を収めていますが、いくつかの物理シナリオでは不十分であることが示されています。
これら 2 つのスコープを通じて、条件付き正定放射基底関数をより良い代替手段として提案します。
最後に、ワイド ニューラル ネットワークでの特徴マッピングを数値的に調査します。
私たちの経験的結果は、多様な順方向および逆方向の問題セットにおける私たちの方法の有効性を明らかにしています。
特徴関数を合成することは、表現力と一般化性のトレードオフに対処する実用的な方法であることがわかりました。つまり、カーネルの帯域幅と特徴マッピング関数の全射性を調整することです。
この単純な手法は座標入力に実装でき、広範な PINN 研究に役立ちます。

要約(オリジナル)

In this paper, the training dynamics of PINNs with a feature mapping layer via the limiting Conjugate Kernel and Neural Tangent Kernel is investigated, shedding light on the convergence of PINNs; Although the commonly used Fourier-based feature mapping has achieved great success, we show its inadequacy in some physics scenarios. Via these two scopes, we propose conditionally positive definite Radial Basis Function as a better alternative. Lastly, we explore the feature mapping numerically in wide neural networks. Our empirical results reveal the efficacy of our method in diverse forward and inverse problem sets. Composing feature functions is found to be a practical way to address the expressivity and generalisability trade-off, viz., tuning the bandwidth of the kernels and the surjectivity of the feature mapping function. This simple technique can be implemented for coordinate inputs and benefits the broader PINNs research.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google