Relational DNN Verification With Cross Executional Bound Refinement

要約

私たちは、ユニバーサル敵対的摂動 (UAP) に対する堅牢性、バイナリ文字列分類の認定された最悪ケースのハミング距離など、ディープ ニューラル ネットワーク (DNN) 上で定義されたリレーショナル プロパティの検証に重点を置いています。これらのプロパティを正確に検証するには、
同じDNN。
ただし、DNN 検証における既存の作業のほとんどは、1 回の実行で定義されたプロパティのみを処理するため、リレーショナル プロパティについては不正確になります。
最近のリレーショナル DNN 検証では、複数の実行の入力間の線形依存関係をキャプチャするものはほとんどありませんが、隠れ層の出力間の依存関係を利用して不正確な結果を生成するものはありません。
私たちは、DNN のすべての層で実行間の依存関係を利用するスケーラブルなリレーショナル検証ツール RACoon を開発し、広範囲のデータセット、ネットワーク、リレーショナル プロパティで SOTA ベースラインを上回る実質的な精度を獲得します。

要約(オリジナル)

We focus on verifying relational properties defined over deep neural networks (DNNs) such as robustness against universal adversarial perturbations (UAP), certified worst-case hamming distance for binary string classifications, etc. Precise verification of these properties requires reasoning about multiple executions of the same DNN. However, most of the existing works in DNN verification only handle properties defined over single executions and as a result, are imprecise for relational properties. Though few recent works for relational DNN verification, capture linear dependencies between the inputs of multiple executions, they do not leverage dependencies between the outputs of hidden layers producing imprecise results. We develop a scalable relational verifier RACoon that utilizes cross-execution dependencies at all layers of the DNN gaining substantial precision over SOTA baselines on a wide range of datasets, networks, and relational properties.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google