Open- and Closed-Loop Neural Network Verification using Polynomial Zonotopes

要約

タイトル：多項式ゾノトープを使用したオープンループおよびクローズドループのニューラルネットワーク検証

要約：

– ReLU、sigmoid、またはtanhアクティベーション関数を持つニューラルネットワークを介して画像のタイトな非凸包を効率的に計算するための新しいアプローチを提供する。
– 特に、各ニューロンの入出力関係を多項式近似で抽象化し、多項式ゾノトープを使用して集合ベースで評価することにより、アプローチを実現している。
– アプローチは、オープンループニューラルネットワーク検証にも有益であるが、主なアプリケーションはニューラルネットワーク制御システムの到達可能性解析であり、多項式ゾノトープはニューラルネットワークによって引き起こされる非凸性およびシステムダイナミックスを捉えることができる。
– これにより、様々なベンチマークで他の方法と比較して優れたパフォーマンスを実証することができる。

要約(オリジナル)

We present a novel approach to efficiently compute tight non-convex enclosures of the image through neural networks with ReLU, sigmoid, or hyperbolic tangent activation functions. In particular, we abstract the input-output relation of each neuron by a polynomial approximation, which is evaluated in a set-based manner using polynomial zonotopes. While our approach can also can be beneficial for open-loop neural network verification, our main application is reachability analysis of neural network controlled systems, where polynomial zonotopes are able to capture the non-convexity caused by the neural network as well as the system dynamics. This results in a superior performance compared to other methods, as we demonstrate on various benchmarks.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI