Open- and Closed-Loop Neural Network Verification using Polynomial Zonotopes

要約

本研究では，ReLU，シグモイド，あるいは双曲線正接の活性化関数を持つニューラルネットワークによって，画像の非凸の囲みを効率的に計算する新しいアプローチを提案する．特に、各ニューロンの入出力関係を多項式近似により抽象化し、それを多項式ゾノトープを用いて集合的に評価する。多項式ゾノトープは、到達可能集合だけでなく、ニューラルネットワークを介したイメージの非凸性を捉えることができるため、提案手法はニューラルネットワーク制御システムの到達可能性解析に特に適している。我々は、様々なベンチマークシステムにおいて、他の最先端手法と比較して、本アプローチの優れた性能を実証する。

要約(オリジナル)

We present a novel approach to efficiently compute tight non-convex enclosures of the image through neural networks with ReLU, sigmoid, or hyperbolic tangent activation functions. In particular, we abstract the input-output relation of each neuron by a polynomial approximation, which is evaluated in a set-based manner using polynomial zonotopes. Our proposed method is especially well suited for reachability analysis of neural network controlled systems since polynomial zonotopes are able to capture the non-convexity in both, the image through the neural network as well as the reachable set. We demonstrate the superior performance of our approach compared to other state of the art methods on various benchmark systems.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL