Symbolic Regression for PDEs using Pruned Differentiable Programs

要約

物理情報に基づいたニューラル ネットワーク (PINN) は、偏微分方程式 (PDE) のシステムの正確なニューラル サロゲートを取得するために広く使用されています。
PINN の主な制限の 1 つは、ニューラル ソリューションの解釈が難しく、ブラック ボックス ソルバーとして扱われることが多いことです。
シンボリック回帰 (SR) は広く研究されていますが、PDE のシステムに対して SR を直接実行するための分析式を生成する研究はほとんどありません。
この作業では、偏微分方程式の解の数式を取得するためのエンド ツー エンドのフレームワークを紹介します。
トレーニング済みの PINN を使用してデータセットを生成し、その上で SR を実行します。
文脈自由文法を使用して定義された微分可能プログラム アーキテクチャ (DPA) を使用して、記号式の空間を記述します。
ヒューリスティックとして重みの大きさを使用して深さ優先の方法で DPA を刈り込むことにより、解釈可能性を向上させます。
平均して、PINN と同等の精度を維持しながら、DPA のパラメーターが 95.3% 減少しました。
さらに、平均して、剪定によって DPA の精度が 7.81% 向上します。
Navier-Stokes: Kovasznay フローと Taylor-Green Vortex フローのような複雑な PDE のシステムで、フレームワークが既存の最先端の SR ソルバーよりも優れていることを示します。
さらに、空気予熱器の複雑な産業用ユースケースの分析式を、PINN などのパフォーマンスの低下に悩まされることなく生成します。

要約(オリジナル)

Physics-informed Neural Networks (PINNs) have been widely used to obtain accurate neural surrogates for a system of Partial Differential Equations (PDE). One of the major limitations of PINNs is that the neural solutions are challenging to interpret, and are often treated as black-box solvers. While Symbolic Regression (SR) has been studied extensively, very few works exist which generate analytical expressions to directly perform SR for a system of PDEs. In this work, we introduce an end-to-end framework for obtaining mathematical expressions for solutions of PDEs. We use a trained PINN to generate a dataset, upon which we perform SR. We use a Differentiable Program Architecture (DPA) defined using context-free grammar to describe the space of symbolic expressions. We improve the interpretability by pruning the DPA in a depth-first manner using the magnitude of weights as our heuristic. On average, we observe a 95.3% reduction in parameters of DPA while maintaining accuracy at par with PINNs. Furthermore, on an average, pruning improves the accuracy of DPA by 7.81% . We demonstrate our framework outperforms the existing state-of-the-art SR solvers on systems of complex PDEs like Navier-Stokes: Kovasznay flow and Taylor-Green Vortex flow. Furthermore, we produce analytical expressions for a complex industrial use-case of an Air-Preheater, without suffering from performance loss viz-a-viz PINNs.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google