Probabilistic Verification of Neural Networks using Branch and Bound

要約

ニューラルネットワークの確率的検証は、入力の確率分布の下でのニューラルネットワークの出力分布を正式に分析することに関係しています。
確率的検証の例には、人口統計のパリティ公平性の概念の検証、または神経ネットワークの安全性の定量化が含まれます。
ニューラルネットワークの出力上の確率をコンピューティングと繰り返し精製するためのアルゴリズムに基づいて、ニューラルネットワークの確率的検証のための新しいアルゴリズムを提示します。
非プロベリスティックなニューラルネットワーク検証から最先端のバインドされた伝播と分岐および結合技術を適用することにより、我々のアルゴリズムは既存の確率的検証アルゴリズムを大幅に上回り、数分から数分秒までの文献からのさまざまなベンチマークの解決時間を削減します
。
さらに、私たちのアルゴリズムは、確率的検証の制限されたサブセットのための専用のアルゴリズムと比較して比較されます。
理論的分析で経験的評価を補完し、私たちのアルゴリズムが健全であり、適切なヒューリスティックセットを使用するときにも完全に制限された条件下で完了したことを証明します。

要約(オリジナル)

Probabilistic verification of neural networks is concerned with formally analysing the output distribution of a neural network under a probability distribution of the inputs. Examples of probabilistic verification include verifying the demographic parity fairness notion or quantifying the safety of a neural network. We present a new algorithm for the probabilistic verification of neural networks based on an algorithm for computing and iteratively refining lower and upper bounds on probabilities over the outputs of a neural network. By applying state-of-the-art bound propagation and branch and bound techniques from non-probabilistic neural network verification, our algorithm significantly outpaces existing probabilistic verification algorithms, reducing solving times for various benchmarks from the literature from tens of minutes to tens of seconds. Furthermore, our algorithm compares favourably even to dedicated algorithms for restricted subsets of probabilistic verification. We complement our empirical evaluation with a theoretical analysis, proving that our algorithm is sound and, under mildly restrictive conditions, also complete when using a suitable set of heuristics.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google