Multi Time Scale World Models

要約

インテリジェント エージェントは、内部世界モデルを使用して、さまざまなスケールでの行動のさまざまな方向性を推論し、予測します。
複雑な不確実性の予測を扱いながら、複数レベルの時間抽象化で動作する世界モデルを機械が学習できるようにする学習パラダイムとアーキテクチャを考案することは、大きな技術的ハードルです。
この研究では、マルチタイムスケール状態空間 (MTS3) モデルと呼ばれるマルチタイムスケールの世界モデルを学習するための確率的形式主義を提案します。
私たちのモデルは、複数の時間スケールで計算効率の高い推論スキームを使用し、高精度の長期予測と数秒後の将来の不確実性の推定を実現します。
アクションの条件付き長期将来予測に焦点を当てた私たちの実験では、MTS3 が、複雑なシミュレートされた現実世界の動的システムを含むいくつかのシステム識別ベンチマークで最近の手法よりも優れていることが示されています。

要約(オリジナル)

Intelligent agents use internal world models to reason and make predictions about different courses of their actions at many scales. Devising learning paradigms and architectures that allow machines to learn world models that operate at multiple levels of temporal abstractions while dealing with complex uncertainty predictions is a major technical hurdle. In this work, we propose a probabilistic formalism to learn multi-time scale world models which we call the Multi Time Scale State Space (MTS3) model. Our model uses a computationally efficient inference scheme on multiple time scales for highly accurate long-horizon predictions and uncertainty estimates over several seconds into the future. Our experiments, which focus on action conditional long horizon future predictions, show that MTS3 outperforms recent methods on several system identification benchmarks including complex simulated and real-world dynamical systems.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google