A Structured Matrix Method for Nonequispaced Neural Operators

要約

PDE の解の学習に広く使用されている多くのニューラル演算子の計算効率は、スペクトル計算を実行する高速フーリエ変換 (FFT) に依存しています。
ただし、FFT は等間隔 (長方形) グリッドに限定されるため、入出力関数を一般的な非等間隔点分布で処理する必要がある問題に適用する場合、このようなニューラル演算子の効率が制限されます。
我々は、バッチ行列乗算を活用してヴァンデルモンド構造行列を効率的に構築し、任意に分散された点で順変換と逆変換を計算する新しい方法を提案することで、この問題に対処します。
このような構造化行列法の効率的な実装は、既存のニューラル オペレーター モデルと結合され、任意の非等間隔分布の点のデータ処理を可能にします。
広範な経験的評価により、提案された方法により、精度を維持または向上させながら、ベースラインよりもトレーニング速度が大幅に向上し、ニューラル演算子を非常に一般的な点分布に拡張できることが実証されました。

要約(オリジナル)

The computational efficiency of many neural operators, widely used for learning solutions of PDEs, relies on the fast Fourier transform (FFT) for performing spectral computations. However, as FFT is limited to equispaced (rectangular) grids, this limits the efficiency of such neural operators when applied to problems where the input and output functions need to be processed on general non-equispaced point distributions. We address this issue by proposing a novel method that leverages batch matrix multiplications to efficiently construct Vandermonde-structured matrices and compute forward and inverse transforms, on arbitrarily distributed points. An efficient implementation of such structured matrix methods is coupled with existing neural operator models to allow the processing of data on arbitrary non-equispaced distributions of points. With extensive empirical evaluation, we demonstrate that the proposed method allows one to extend neural operators to very general point distributions with significant gains in training speed over baselines, while retaining or improving accuracy.

arxiv情報

著者 Levi Lingsch,Mike Michelis,Emmanuel de Bezenac,Sirani M. Perera,Robert K. Katzschmann,Siddhartha Mishra
発行日 2023-10-06 15:59:19+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, cs.NA, math.NA パーマリンク