ReLiCADA — Reservoir Computing using Linear Cellular Automata Design Algorithm

要約

この論文では、時系列アプリケーションのセルラー オートマトン モデルを使用してリザーバー コンピューティングの設計を最適化する新しいアルゴリズムを紹介します。
モデルのハイパーパラメータの選択に加えて、提案されたアルゴリズムは特に線形セルラー オートマトンのルール選択の未解決の問題を解決します。
この選択方法では、指数関数的に増大するルール空間から、少数の有望なルール候補のみを事前に選択します。
関連するベンチマーク データセットに適用すると、選択したルールは低いエラーを達成し、最良のルールはルール空間全体の上位 5% に含まれます。
このアルゴリズムは、線形セルラー オートマトンの特性の数学的分析に基づいて開発されており、約 100 万回の実験によって裏付けられており、計算実行時間は合計すると 1 年近くになります。
他の最先端の時系列モデルと比較すると、提案されているセルラー オートマトン モデルを使用したリザーバー コンピューティングの方が計算の複雑さが低く、同時に達成できる誤差も少ないことがわかります。
したがって、私たちのアプローチは、トレーニングとハイパーパラメーターの最適化に必要な時間を最大で数桁短縮します。

要約(オリジナル)

In this paper, we present a novel algorithm to optimize the design of Reservoir Computing using Cellular Automata models for time series applications. Besides selecting the models’ hyperparameters, the proposed algorithm particularly solves the open problem of linear Cellular Automaton rule selection. The selection method pre-selects only a few promising candidate rules out of an exponentially growing rule space. When applied to relevant benchmark datasets, the selected rules achieve low errors, with the best rules being among the top 5% of the overall rule space. The algorithm was developed based on mathematical analysis of linear Cellular Automaton properties and is backed by almost one million experiments, adding up to a computational runtime of nearly one year. Comparisons to other state-of-the-art time series models show that the proposed Reservoir Computing using Cellular Automata models have lower computational complexity, at the same time, achieve lower errors. Hence, our approach reduces the time needed for training and hyperparameter optimization by up to several orders of magnitude.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google