Interpretable Fine-Tuning for Graph Neural Network Surrogate Models

要約

データベースのサロゲート モデリングは、データのメッシュベース表現を直接操作できるグラフ ニューラル ネットワーク (GNN) の出現により、近年その機能が急増しています。
この研究の目標は、非構造化メッシュベースの流体力学モデリングに適用して、GNN に解釈可能な微調整戦略を導入することです。
最終結果は、ベースラインの予測能力を維持しながら、予測タスクに本質的にリンクされた物理空間内の領域を分離する適応サブグラフ サンプリング戦略を通じて、事前トレーニングされたベースライン GNN に解釈可能性を追加する、微調整された GNN です。
微調整された GNN によって特定された構造は、入力の明示的な関数としてフォワード パスで適応的に生成され、ベースライン モデル アーキテクチャ、最適化目標、および既知の問題固有の物理学間のアクセス可能なリンクとして機能します。
さらに、正則化手順を通じて、微調整された GNN を使用して、推論中に予想される予測誤差の大部分に対応するグラフ ノードを特定することもでき、ベースライン モデルに新しい解釈可能な誤差タグ付け機能が追加されます。
デモンストレーションは、高いレイノルズ数での後向きステップを通過する流れから得られた非構造化流れデータを使用して実行されます。

要約(オリジナル)

Data-based surrogate modeling has surged in capability in recent years with the emergence of graph neural networks (GNNs), which can operate directly on mesh-based representations of data. The goal of this work is to introduce an interpretable fine-tuning strategy for GNNs, with application to unstructured mesh-based fluid dynamics modeling. The end result is a fine-tuned GNN that adds interpretability to a pre-trained baseline GNN through an adaptive sub-graph sampling strategy that isolates regions in physical space intrinsically linked to the forecasting task, while retaining the predictive capability of the baseline. The structures identified by the fine-tuned GNNs, which are adaptively produced in the forward pass as explicit functions of the input, serve as an accessible link between the baseline model architecture, the optimization goal, and known problem-specific physics. Additionally, through a regularization procedure, the fine-tuned GNNs can also be used to identify, during inference, graph nodes that correspond to a majority of the anticipated forecasting error, adding a novel interpretable error-tagging capability to baseline models. Demonstrations are performed using unstructured flow data sourced from flow over a backward-facing step at high Reynolds numbers.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google