Spatiotemporal Observer Design for Predictive Learning of High-Dimensional Data

要約

深層学習ベースの手法は時空間予測学習において大きな成功を収めていますが、それらのモデルのフレームワークは主に直感によって設計されています。
理論的に保証された時空間予測をどのように行うかは、依然として難しい課題です。
この研究では、動的システムからのドメイン知識を深層学習モデルのフレームワーク設計に適用することで、この問題に取り組みます。
時空間オブザーバーと呼ばれるオブザーバー理論に基づく深層学習アーキテクチャは、高次元データの予測学習用に設計されています。
提案されたフレームワークの特徴は 2 つあります。第 1 に、時空間予測に対する一般化誤差限界と収束保証が提供されます。
次に、モデルがトレーニング中にシステム ダイナミクスをよりよく学習できるようにするために、動的正則化が導入されています。
さらなる実験結果は、このフレームワークが時空間ダイナミクスを捉え、1 ステップ先と複数ステップ先の両方の予測シナリオで正確な予測を行うことができることを示しています。

要約(オリジナル)

Although deep learning-based methods have shown great success in spatiotemporal predictive learning, the framework of those models is designed mainly by intuition. How to make spatiotemporal forecasting with theoretical guarantees is still a challenging issue. In this work, we tackle this problem by applying domain knowledge from the dynamical system to the framework design of deep learning models. An observer theory-guided deep learning architecture, called Spatiotemporal Observer, is designed for predictive learning of high dimensional data. The characteristics of the proposed framework are twofold: firstly, it provides the generalization error bound and convergence guarantee for spatiotemporal prediction; secondly, dynamical regularization is introduced to enable the model to learn system dynamics better during training. Further experimental results show that this framework could capture the spatiotemporal dynamics and make accurate predictions in both one-step-ahead and multi-step-ahead forecasting scenarios.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google