Variational Randomized Smoothing for Sample-Wise Adversarial Robustness

要約

ランダム化スムージングは​​、ニューラル ネットワーク モデルのパフォーマンスを低下させる小さな入力摂動である敵対的な例に対する堅牢性を強化するための防御手法です。
従来のランダム化平滑化では、すべての入力サンプルに固定ノイズ レベルのランダム ノイズを追加して、敵対的な摂動を平滑化します。
この論文では、ノイズ レベル セレクターを導入することにより、各入力に適したサンプルごとのノイズ レベルを使用する新しい変分フレームワークを提案します。
私たちの実験結果は、敵対的な攻撃に対する経験的な堅牢性の強化を示しています。
また、サンプルごとの平滑化手法の認定された堅牢性も提供および分析します。

要約(オリジナル)

Randomized smoothing is a defensive technique to achieve enhanced robustness against adversarial examples which are small input perturbations that degrade the performance of neural network models. Conventional randomized smoothing adds random noise with a fixed noise level for every input sample to smooth out adversarial perturbations. This paper proposes a new variational framework that uses a per-sample noise level suitable for each input by introducing a noise level selector. Our experimental results demonstrate enhancement of empirical robustness against adversarial attacks. We also provide and analyze the certified robustness for our sample-wise smoothing method.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google