Deep Subspace Encoders for Nonlinear System Identification

要約

非線形システムの同定に人工ニューラル ネットワーク (ANN) を使用することは、有望なアプローチであることが証明されていますが、最近の研究努力にもかかわらず、多くの実用的および理論的問題は依然として未解決のままです。
具体的には、ノイズの処理とモデル、予測誤差の最小化の下での一貫性と信頼性の高い推定の問題が最も深刻な問題です。
後者には、データサンプル数の点で計算コストが爆発的に増加したり、最適化中に不安定性が発生したりするなど、多くの実際的な課題が伴います。
この論文では、状態推定に切り捨てられた予測損失と部分空間エンコーダを使用する方法を提案することにより、これらの問題を克服することを目的としています。
切り捨てられた予測損失は、時系列から複数の切り捨てられたサブセクションを選択し、平均予測損失を計算することによって計算されます。
切り捨てられた予測損失を最小限に抑える計算効率の高い推定方法を取得するために、人工ニューラル ネットワークで表される部分空間エンコーダが導入されます。
このエンコーダは、推定モデルの状態再構築可能マップを近似して、過去の入力と出力を考慮して、切り詰められた各サブセクションの初期状態を提供することを目的としています。
理論的分析により、穏やかな条件下では、提案された方法が局所的に一貫しており、最適化の安定性が向上し、サブセクション間の重複を許容することでデータ効率の向上が達成されることを示します。
最後に、数値例と最先端のベンチマーク結果を使用して、実用的な洞察とユーザー ガイドラインを提供します。

要約(オリジナル)

Using Artificial Neural Networks (ANN) for nonlinear system identification has proven to be a promising approach, but despite of all recent research efforts, many practical and theoretical problems still remain open. Specifically, noise handling and models, issues of consistency and reliable estimation under minimisation of the prediction error are the most severe problems. The latter comes with numerous practical challenges such as explosion of the computational cost in terms of the number of data samples and the occurrence of instabilities during optimization. In this paper, we aim to overcome these issues by proposing a method which uses a truncated prediction loss and a subspace encoder for state estimation. The truncated prediction loss is computed by selecting multiple truncated subsections from the time series and computing the average prediction loss. To obtain a computationally efficient estimation method that minimizes the truncated prediction loss, a subspace encoder represented by an artificial neural network is introduced. This encoder aims to approximate the state reconstructability map of the estimated model to provide an initial state for each truncated subsection given past inputs and outputs. By theoretical analysis, we show that, under mild conditions, the proposed method is locally consistent, increases optimization stability, and achieves increased data efficiency by allowing for overlap between the subsections. Lastly, we provide practical insights and user guidelines employing a numerical example and state-of-the-art benchmark results.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google