LEVIS: Large Exact Verifiable Input Spaces for Neural Networks

要約

安全性が重視されるアプリケーションでは、ニューラル ネットワークの堅牢性が最も重要です。
現在のほとんどのロバスト性検証手法は、入力空間が既知であるという仮定の下で最悪の場合の出力を評価しますが、敵対的な例が存在しない検証可能な入力空間 $\mathcal{C}$ を特定することは、効果的なモデルの選択、ロバスト性の評価にとって重要です。
、および信頼性の高い制御戦略の開発。
この課題に対処するために、$\texttt{LEVIS}$-$\alpha$ と $\texttt{LEVIS}$-$\beta$ で構成される新しいフレームワーク $\texttt{LEVIS}$ を導入します。
$\texttt{LEVIS}$-$\alpha$ は、少なくとも 2 つの境界と交差する $\mathcal{C}$ の中央領域内で、検証可能な最大のボールを見つけます。
対照的に、$\texttt{LEVIS}$-$\beta$ は、複数の検証可能なボールを統合して、検証可能な空間全体を包括的にカプセル化します。
私たちの貢献は 3 つあります: (1) 検証可能な最大のボールと、同一直線上または直交する方向に沿った最も近い敵対点を特定する 3 つの先駆的な技術を備えた $\texttt{LEVIS}$ を提案します。
(2) $\texttt{LEVIS}$-$\alpha$ および $\texttt{LEVIS}$-$\beta$ を通じて取得された検証可能なボールの特性を解明する理論的分析を提供します。
(3) 電力潮流回帰や画像分類など、さまざまなアプリケーションにわたって手法を検証し、パフォーマンスの向上と検索特性の視覚化を紹介します。

要約(オリジナル)

The robustness of neural networks is paramount in safety-critical applications. While most current robustness verification methods assess the worst-case output under the assumption that the input space is known, identifying a verifiable input space $\mathcal{C}$, where no adversarial examples exist, is crucial for effective model selection, robustness evaluation, and the development of reliable control strategies. To address this challenge, we introduce a novel framework, $\texttt{LEVIS}$, comprising $\texttt{LEVIS}$-$\alpha$ and $\texttt{LEVIS}$-$\beta$. $\texttt{LEVIS}$-$\alpha$ locates the largest possible verifiable ball within the central region of $\mathcal{C}$ that intersects at least two boundaries. In contrast, $\texttt{LEVIS}$-$\beta$ integrates multiple verifiable balls to encapsulate the entirety of the verifiable space comprehensively. Our contributions are threefold: (1) We propose $\texttt{LEVIS}$ equipped with three pioneering techniques that identify the maximum verifiable ball and the nearest adversarial point along collinear or orthogonal directions. (2) We offer a theoretical analysis elucidating the properties of the verifiable balls acquired through $\texttt{LEVIS}$-$\alpha$ and $\texttt{LEVIS}$-$\beta$. (3) We validate our methodology across diverse applications, including electrical power flow regression and image classification, showcasing performance enhancements and visualizations of the searching characteristics.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google