Taming Local Effects in Graph-based Spatiotemporal Forecasting

要約

時空間グラフ ニューラル ネットワークは、時系列予測アプリケーションで効果的であることが示されており、いくつかの設定で標準的な単変量予測子よりも優れたパフォーマンスを達成します。
これらのアーキテクチャは、グラフ構造とリレーショナル誘導バイアスを利用して単一 (グローバル) 誘導モデルを学習し、それぞれがグラフ ノードに関連付けられた任意の数の入力時系列を予測します。
計算効率とデータ効率が向上したにもかかわらず、
時系列の一部が異なる時空間確率プロセスによって生成される場合、単一のグローバル モデルに依存してローカル モデルのセットをフィッティングすることは制限となる可能性があります。
この論文の主な目的は、グラフベースの時空間予測におけるグローバル性とローカリティの間の相互作用を理解すると同時に、そのようなアーキテクチャにトレーニング可能なノードの埋め込みを含める実践を合理化するための方法論的フレームワークを状況に応じて提案することです。
トレーニング可能なノードの埋め込みには、特殊なコンポーネントの学習を償却する役割があると考えられます。
さらに、埋め込みにより、1) 共有メッセージ パッシング層の利点とノード固有のパラメーターを効果的に組み合わせ、2) 学習されたモデルを新しいノード セットに効率的に転送することが可能になります。
強力な経験的証拠に裏付けられ、グラフベースのモデルを各時系列のダイナミクスに特化するための洞察とガイドラインを提供し、この側面が正確な予測を得る上でどのように重要な役割を果たすかを示します。

要約(オリジナル)

Spatiotemporal graph neural networks have shown to be effective in time series forecasting applications, achieving better performance than standard univariate predictors in several settings. These architectures take advantage of a graph structure and relational inductive biases to learn a single (global) inductive model to predict any number of the input time series, each associated with a graph node. Despite the gain achieved in computational and data efficiency w.r.t. fitting a set of local models, relying on a single global model can be a limitation whenever some of the time series are generated by a different spatiotemporal stochastic process. The main objective of this paper is to understand the interplay between globality and locality in graph-based spatiotemporal forecasting, while contextually proposing a methodological framework to rationalize the practice of including trainable node embeddings in such architectures. We ascribe to trainable node embeddings the role of amortizing the learning of specialized components. Moreover, embeddings allow for 1) effectively combining the advantages of shared message-passing layers with node-specific parameters and 2) efficiently transferring the learned model to new node sets. Supported by strong empirical evidence, we provide insights and guidelines for specializing graph-based models to the dynamics of each time series and show how this aspect plays a crucial role in obtaining accurate predictions.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google