ReachLipBnB: A branch-and-bound method for reachability analysis of neural autonomous systems using Lipschitz bounds

要約

開ループと閉ループの両方の設定でニューラル ネットワークの到達可能性を解析するための新しい分枝限定法を提案します。
私たちのアイデアは、最初に凸プログラムを使用してオフラインで関心のある特定の方向でニューラル ネットワークのリプシッツ定数の正確な境界を計算することです。
次に、これらの境界を使用して、リプシッツ連続引数を使用して、到達可能なセットの瞬時ではあるが保守的な多面体近似を取得します。
保守主義を減らすために、分岐戦略内に境界アルゴリズムを組み込み、任意の精度内で過大近似誤差を減らします。
次に、この方法を、ニューラル ネットワーク コントローラーを備えた制御システムの到達可能性解析に拡張します。
最後に、到達可能なセットの形状を可能な限り正確にキャプチャするために、サンプル軌跡を使用して、主成分分析 (PCA) を使用して到達可能なセットの過大近似の方向を通知します。
いくつかの開ループおよび閉ループ設定で提案された方法のパフォーマンスを評価します。

要約(オリジナル)

We propose a novel Branch-and-Bound method for reachability analysis of neural networks in both open-loop and closed-loop settings. Our idea is to first compute accurate bounds on the Lipschitz constant of the neural network in certain directions of interest offline using a convex program. We then use these bounds to obtain an instantaneous but conservative polyhedral approximation of the reachable set using Lipschitz continuity arguments. To reduce conservatism, we incorporate our bounding algorithm within a branching strategy to decrease the over-approximation error within an arbitrary accuracy. We then extend our method to reachability analysis of control systems with neural network controllers. Finally, to capture the shape of the reachable sets as accurately as possible, we use sample trajectories to inform the directions of the reachable set over-approximations using Principal Component Analysis (PCA). We evaluate the performance of the proposed method in several open-loop and closed-loop settings.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google