Bi-level Physics-Informed Neural Networks for PDE Constrained Optimization using Broyden’s Hypergradients

要約

タイトル：Broydenの超梯度を使用したPDE制約最適化のバイレベル物理学的情報ニューラルネットワーク

要約：

– 物理学に基づくニューラルネットワーク（PINNs）やDeepONetsなどの深層学習に基づくアプローチは、PDE制約最適化（PDECO）問題の解決に有望です。
– しかし、既存の方法は最適化ターゲットに対する複雑または非線形な依存関係を持つ、PDE制約に対処するのに十分でないという問題があります。
– この論文では、制約とターゲットの最適化を分離することでこの問題を解決する、新しいバイレベル最適化フレームワークを提案しています。
– 内側のループ最適化には、PINNsを使用してPDE制約のみを解決します。
– 外側のループについては、暗黙的関数定理（IFT）に基づいたBroyden’s方法を使用することで、ハイパーグラデーションの近似に効率的かつ正確な手法を設計しています。
– また、ハイパーグラデーション計算の理論的説明と誤差分析を提供しています。
– 多数の大規模で非線形なPDE制約最適化問題での um多数の実験が、私たちの手法が強い基準と比較して最先端の結果を達成することを示しています。

要約(オリジナル)

Deep learning based approaches like Physics-informed neural networks (PINNs) and DeepONets have shown promise on solving PDE constrained optimization (PDECO) problems. However, existing methods are insufficient to handle those PDE constraints that have a complicated or nonlinear dependency on optimization targets. In this paper, we present a novel bi-level optimization framework to resolve the challenge by decoupling the optimization of the targets and constraints. For the inner loop optimization, we adopt PINNs to solve the PDE constraints only. For the outer loop, we design a novel method by using Broyden’s method based on the Implicit Function Theorem (IFT), which is efficient and accurate for approximating hypergradients. We further present theoretical explanations and error analysis of the hypergradients computation. Extensive experiments on multiple large-scale and nonlinear PDE constrained optimization problems demonstrate that our method achieves state-of-the-art results compared with strong baselines.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI