Earthfarseer: Versatile Spatio-Temporal Dynamical Systems Modeling in One Model

要約

時空間 (ST) 物理プロセスと観察を効率的にモデル化することは、深層学習コミュニティにとって困難な問題を引き起こします。
最近の研究の多くは、さまざまな利点を細心の注意を払って調和させることに集中しており、単純でも実用的でもない設計モデルにつながっています。
この問題に対処するために、この論文では、局所忠実度の欠如、長いタイムステップにわたる予測パフォーマンスの低さ、スケーラビリティの低さ、非効率など、既製のモデルが直面する既存の欠点に関する体系的な研究を紹介します。
前述の問題に体系的に対処するために、並列ローカル畳み込みとグローバル フーリエ ベースの変換アーキテクチャを組み合わせた簡潔なフレームワークである EarthFarseer を提案します。これにより、ローカルとグローバルの空間相互作用と依存関係を動的にキャプチャできるようになります。
EarthFarseer には、時間的進化を効率的かつ効果的に捕捉するために、マルチスケールの完全畳み込みアーキテクチャとフーリエ アーキテクチャも組み込まれています。
私たちの提案は、長いタイムステップ予測における高速な収束とより優れた局所忠実度により、さまざまなタスクやデータセットにわたる強力な適応性を示しています。
8 つの人間社会の物理データセットと自然物理データセットにわたる広範な実験と視覚化により、EarthFarseer の最先端のパフォーマンスが実証されています。
コードは https://github.com/easylearningscores/EarthFarseer でリリースされています。

要約(オリジナル)

Efficiently modeling spatio-temporal (ST) physical processes and observations presents a challenging problem for the deep learning community. Many recent studies have concentrated on meticulously reconciling various advantages, leading to designed models that are neither simple nor practical. To address this issue, this paper presents a systematic study on existing shortcomings faced by off-the-shelf models, including lack of local fidelity, poor prediction performance over long time-steps,low scalability, and inefficiency. To systematically address the aforementioned problems, we propose an EarthFarseer, a concise framework that combines parallel local convolutions and global Fourier-based transformer architectures, enabling dynamically capture the local-global spatial interactions and dependencies. EarthFarseer also incorporates a multi-scale fully convolutional and Fourier architectures to efficiently and effectively capture the temporal evolution. Our proposal demonstrates strong adaptability across various tasks and datasets, with fast convergence and better local fidelity in long time-steps predictions. Extensive experiments and visualizations over eight human society physical and natural physical datasets demonstrates the state-of-the-art performance of EarthFarseer. We release our code at https://github.com/easylearningscores/EarthFarseer.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google