Safety Filter Design for Neural Network Systems via Convex Optimization

要約

データ可用性の増加に伴い、ニューラル ネットワーク (NN) がデータ駆動型の方法で複雑なシステム ダイナミクスを正確にキャプチャできることが広く実証されています。
ただし、NN のアーキテクチャの複雑さと非線形性により、安全であることが証明されたコントローラーを合成することが困難になります。
この研究では、モデリング誤差を捕捉できる付加的な外乱の影響を受ける N​​N システムの安全性を確保するために、凸最適化に依存する新しい安全フィルターを提案します。
私たちのアプローチでは、NN 検証のツールを利用して、一連の線形境界を使用して NN ダイナミクスを過近似し、その後、堅牢な線形 MPC を適用して、堅牢な制約を満たすことを保証できるコントローラーを検索します。
提案されたフレームワークの有効性を非線形振り子システム上で数値的に実証します。

要約(オリジナル)

With the increase in data availability, it has been widely demonstrated that neural networks (NN) can capture complex system dynamics precisely in a data-driven manner. However, the architectural complexity and nonlinearity of the NNs make it challenging to synthesize a provably safe controller. In this work, we propose a novel safety filter that relies on convex optimization to ensure safety for a NN system, subject to additive disturbances that are capable of capturing modeling errors. Our approach leverages tools from NN verification to over-approximate NN dynamics with a set of linear bounds, followed by an application of robust linear MPC to search for controllers that can guarantee robust constraint satisfaction. We demonstrate the efficacy of the proposed framework numerically on a nonlinear pendulum system.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google