Rational Neural Network Controllers

要約

ニューラル ネットワークは、一般的な関数近似器として機能するため、多くの機械学習関連タスクで大きな成功を収めています。
最近の研究では、制御システム (ニューラル フィードバック ループとして知られる) におけるニューラル ネットワークの有効性が実証されており、特にニューラル ネットワークをコントローラーとして使用することによって実証されています。
ただし、このアプローチの大きな課題の 1 つは、ニューラル ネットワークが敵対的な攻撃に敏感であることがわかっていることです。
これは、適切に設計されない限り、制御システムの重要な側面である堅牢性と不確実性の問題により、コントローラーの理想的な候補ではないことを意味します。
ニューラル ネットワーク コントローラーを使用した動的システムの解析と設計の両方に対する堅牢性に関する初期の研究が行われてきました。
ただし、これらの方法の顕著な問題の 1 つは、従来の機械学習タスクに合わせて調整された既存のニューラル ネットワーク アーキテクチャを使用していることです。
これらの構造はニューラル ネットワーク コントローラーには適切ではない可能性があるため、代替アーキテクチャを検討することが重要です。
この論文では、合理的ニューラル ネットワークを考察し、ニューラル フィードバック ループのロバスト性問題に効果的に使用できる新しい合理的活性化関数を示します。
有理活性化関数は、ニューラル ネットワークのパラメーターが凸である一般的な有理ニューラル ネットワーク構造に置き換えられます。
二乗和実現可能性テストから安定化コントローラを回復する方法が提案されています。
このアプローチは、二乗和プログラミングとより互換性のある洗練された合理的ニューラル ネットワークに適用されます。
数値例は、この方法がノイズとパラメトリック不確実性を伴う非線形プラントを含むニューラル フィードバック ループの安定化合理的ニューラル ネットワーク コントローラーを正常に回復できることを示しています。

要約(オリジナル)

Neural networks have shown great success in many machine learning related tasks, due to their ability to act as general function approximators. Recent work has demonstrated the effectiveness of neural networks in control systems (known as neural feedback loops), most notably by using a neural network as a controller. However, one of the big challenges of this approach is that neural networks have been shown to be sensitive to adversarial attacks. This means that, unless they are designed properly, they are not an ideal candidate for controllers due to issues with robustness and uncertainty, which are pivotal aspects of control systems. There has been initial work on robustness to both analyse and design dynamical systems with neural network controllers. However, one prominent issue with these methods is that they use existing neural network architectures tailored for traditional machine learning tasks. These structures may not be appropriate for neural network controllers and it is important to consider alternative architectures. This paper considers rational neural networks and presents novel rational activation functions, which can be used effectively in robustness problems for neural feedback loops. Rational activation functions are replaced by a general rational neural network structure, which is convex in the neural network’s parameters. A method is proposed to recover a stabilising controller from a Sum of Squares feasibility test. This approach is then applied to a refined rational neural network which is more compatible with Sum of Squares programming. Numerical examples show that this method can successfully recover stabilising rational neural network controllers for neural feedback loops with non-linear plants with noise and parametric uncertainty.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google