Verification of Neural Network Control Systems using Symbolic Zonotopes and Polynotopes

要約

ニューラル ネットワーク制御システム (NNCS) の検証と安全性評価は、新たな課題となっています。
保証を提供するために、検証ツールは制御ループ内のニューラル ネットワークと物理システム間の相互作用を効率的にキャプチャする必要があります。
この論文では、長期的なシンボリック依存関係モデリングを維持する包含に焦点を当てた構成的アプローチが、NNCS の分析のために提案されています。
まず、シンボリック ゾノトープの行列構造を利用して、(包含を保持する) アフィン シンボリック式を通じてループ要素の入出力マッピングを効率的に抽象化し、相互作用するブロック間の線形依存関係を維持します。
次に、さらに 2 つの拡張が検討されます。
まず、シンボリック多項式を使用して、多項式シンボリック式と依存関係によってループ要素の動作を抽象化します。
第 2 に、独自の入力分割アルゴリズムはシンボル保存を利用して、一部の入力方向に対する計算された近似の感度を評価します。
このアプローチは、さまざまな数値例とベンチマークを通じて評価されます。
低い保守性と計算効率の間で適切なトレードオフが得られます。

要約(オリジナル)

Verification and safety assessment of neural network controlled systems (NNCSs) is an emerging challenge. To provide guarantees, verification tools must efficiently capture the interplay between the neural network and the physical system within the control loop. In this paper, a compositional approach focused on inclusion preserving long term symbolic dependency modeling is proposed for the analysis of NNCSs. First of all, the matrix structure of symbolic zonotopes is exploited to efficiently abstract the input/output mapping of the loop elements through (inclusion preserving) affine symbolic expressions, thus maintaining linear dependencies between interacting blocks. Then, two further extensions are studied. Firstly, symbolic polynotopes are used to abstract the loop elements behaviour by means of polynomial symbolic expressions and dependencies. Secondly, an original input partitioning algorithm takes advantage of symbol preservation to assess the sensitivity of the computed approximation to some input directions. The approach is evaluated via different numerical examples and benchmarks. A good trade-off between low conservatism and computational efficiency is obtained.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google