Efficient Interaction-Aware Interval Analysis of Neural Network Feedback Loops

要約

この論文では、ニューラル ネットワーク コントローラーを備えたシステムのインターバル到達可能性のための計算効率の高いフレームワークを提案します。
私たちのアプローチは、開ループ システムとニューラル ネットワーク コントローラーの包含関数を利用して、閉ループ システムをより大きな次元の埋め込みシステムに埋め込みます。このシステムでは、単一の軌道が不確実性の下で元のシステムの動作を過度に近似します。
閉ループ埋め込みシステムを構築するための 2 つの方法を提案します。これらは、システムとコントローラー間の相互作用をさまざまな方法で考慮します。
相互接続ベースのアプローチでは、ニューラル ネットワーク包含関数を開ループ包含関数に置き換えることによって、各座標の最悪の場合の展開を個別に考慮します。
インタラクション ベースのアプローチでは、新しいヤコビアン ベースの包含関数を使用して、最先端のニューラル ネットワーク検証器を活用して、開ループ システムとコントローラーの間の一次相互作用をキャプチャします。
最後に、ReachMM と呼ばれる Python フレームワークにアプローチを実装し、200 ドルの状態ディメンションに及ぶベンチマークと例でその効率性とスケーラビリティを実証します。

要約(オリジナル)

In this paper, we propose a computationally efficient framework for interval reachability of systems with neural network controllers. Our approach leverages inclusion functions for the open-loop system and the neural network controller to embed the closed-loop system into a larger-dimensional embedding system, where a single trajectory over-approximates the original system’s behavior under uncertainty. We propose two methods for constructing closed-loop embedding systems, which account for the interactions between the system and the controller in different ways. The interconnection-based approach considers the worst-case evolution of each coordinate separately by substituting the neural network inclusion function into the open-loop inclusion function. The interaction-based approach uses novel Jacobian-based inclusion functions to capture the first-order interactions between the open-loop system and the controller by leveraging state-of-the-art neural network verifiers. Finally, we implement our approach in a Python framework called ReachMM to demonstrate its efficiency and scalability on benchmarks and examples ranging to $200$ state dimensions.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google