Towards Multi-spatiotemporal-scale Generalized PDE Modeling

要約

偏微分方程式 (PDE) は、複雑な物理システムのシミュレーションを記述する際の中心となります。
彼らの高価なソリューション技術は、ディープ ニューラル ネットワーク ベースのサロゲートへの関心の高まりにつながっています。
ただし、そのようなサロゲートのトレーニングの実際的な有用性は、複雑なマルチスケールの時空間現象をモデル化する能力に左右されます。
このような現象をターゲットにするために、さまざまなニューラル ネットワーク アーキテクチャが提案されています。最も注目すべきは、さまざまなフーリエ モードのパラメータ化によってローカルおよびグローバルな空間情報を自然に処理するフーリエ ニューラル オペレーター (FNO) と、
ダウンサンプリングおよびアップサンプリング パス。
ただし、さまざまな方程式パラメーターまたはさまざまな時間スケールで一般化することは、依然として課題です。
この作業では、渦度ストリームと速度関数の両方の形式で、流体力学の問題に対するさまざまな FNO と U-Net のようなアプローチを包括的に比較します。
U-Net については、最近のアーキテクチャの改善をコンピュータ ビジョンから、特にオブジェクト セグメンテーションと生成モデリングから移管します。
計算パフォーマンスを大幅に低下させることなく、FNO レイヤーを使用して U-Net アーキテクチャのパフォーマンスを向上させるための設計上の考慮事項をさらに分析します。
最後に、単一のサロゲート モデルを使用して、さまざまな PDE パラメーターと時間スケールへの一般化に関する有望な結果を示します。

要約(オリジナル)

Partial differential equations (PDEs) are central to describing complex physical system simulations. Their expensive solution techniques have led to an increased interest in deep neural network based surrogates. However, the practical utility of training such surrogates is contingent on their ability to model complex multi-scale spatio-temporal phenomena. Various neural network architectures have been proposed to target such phenomena, most notably Fourier Neural Operators (FNOs) which give a natural handle over local \& global spatial information via parameterization of different Fourier modes, and U-Nets which treat local and global information via downsampling and upsampling paths. However, generalizing across different equation parameters or different time-scales still remains a challenge. In this work, we make a comprehensive comparison between various FNO and U-Net like approaches on fluid mechanics problems in both vorticity-stream and velocity function form. For U-Nets, we transfer recent architectural improvements from computer vision, most notably from object segmentation and generative modeling. We further analyze the design considerations for using FNO layers to improve performance of U-Net architectures without major degradation of computational performance. Finally, we show promising results on generalization to different PDE parameters and time-scales with a single surrogate model.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google