Efficient Interaction-Aware Interval Analysis of Neural Network Feedback Loops

要約

この論文では、ニューラル ネットワーク制御システムのインターバル到達可能性のための計算効率の高いフレームワークを提案します。
私たちのアプローチは、ニューラル ネットワーク コントローラーと開ループ システムの包含関数に基づいて構築されています。
多くの最先端のニューラル ネットワーク検証ツールがニューラル ネットワークの包含関数を生成できることがわかりました。
私たちは、システムとニューラル ネットワーク コントローラー間の相互作用をキャプチャするのに特に適した関数ヤコビアンの境界に基づいた、開ループ ダイナミクスのための新しいクラスの包含関数を導入して分析します。
次に、任意の動的システムに対して、包含関数を使用して、元のシステムの 2 倍の状態数を持つ埋め込みシステムを構築します。
この埋め込みシステムの単一の軌道が、到達可能なセットの超長方形の過近似を提供することを示します。
次に、システムとコントローラー間の相互作用をさまざまな方法で考慮する、ニューラル ネットワーク制御の動的システム用の閉ループ埋め込みシステムを構築するための 2 つのアプローチを提案します。
相互接続ベースのアプローチでは、開ループ埋め込みシステムにニューラル ネットワーク包含関数を置き換えることにより、各座標の最悪の場合の展開を個別に考慮します。
インタラクション ベースのアプローチでは、新しく導入されたヤコビアン ベースの包含関数のクラスを使用して、システムとコントローラー間の 1 次のインタラクションを完全にキャプチャします。
最後に、\texttt{ReachMM} と呼ばれる Python フレームワークでアプローチを実装し、いくつかの既存のベンチマークで、私たちの方法が文献に記載されている既存のアプローチよりも優れていることを示します。
また、最大 $200$ の州を含む車両の隊列走行の例で、この方法のスケーラビリティを実証します。

要約(オリジナル)

In this paper, we propose a computationally efficient framework for interval reachability of neural network controlled systems. Our approach builds upon inclusion functions for the neural network controller and the open-loop system. We observe that many state-of-the-art neural network verifiers can produce inclusion functions for neural networks. We introduce and analyze a new class of inclusion functions for the open-loop dynamics based on bounds of the function Jacobian that is particularly suitable for capturing the interactions between systems and neural network controllers. Next, for any dynamical system, we use inclusion functions to construct an embedding system with twice the number of states as the original system. We show that a single trajectory of this embedding system provides hyper-rectangular over-approximations of reachable sets. We then propose two approaches for constructing a closed-loop embedding system for a neural network controlled dynamical system that accounts for the interaction between the system and the controller in different ways. The interconnection-based approach accounts for the worst-case evolution of each coordinate separately by substituting the neural network inclusion function into the open-loop embedding system. The interaction-based approach uses the newly introduced class of Jacobian-based inclusion functions to fully capture first-order interactions between the system and the controller. Finally, we implement our approach in a Python framework called \texttt{ReachMM} and show that on several existing benchmarks, our methods outperform the existing approaches in the literature. We also demonstrate the scalability of our method on a vehicle platooning example with up to $200$ states.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google