Sound Randomized Smoothing in Floating-Point Arithmetics

要約

タイトル：浮動小数点演算における音声ランダムスムージング

要約：
– 無限精度を使用する場合、ランダムスムージングは正確であるが、有限の浮動小数点精度では正確ではないことを示す。
– パーティクルフィルター、モンテカルロドロップアウト、対抗的な訓練など、これまでに提案されてきたランダムスムージング手法は、その反転を防ぐために背後にある暗黙の仮定を有する。
– 本論文では、ランダムスムージングの仮定が画像分類モデルに一般的に適用されないことを示す。
– 仮定に基づいて、ランダムスムージングに関する新しい方法を提案する。
– これにより、浮動小数点演算により正確なランダムスムージングが行えるようになる。

要約(オリジナル)

Randomized smoothing is sound when using infinite precision. However, we show that randomized smoothing is no longer sound for limited floating-point precision. We present a simple example where randomized smoothing certifies a radius of $1.26$ around a point, even though there is an adversarial example in the distance $0.8$ and extend this example further to provide false certificates for CIFAR10. We discuss the implicit assumptions of randomized smoothing and show that they do not apply to generic image classification models whose smoothed versions are commonly certified. In order to overcome this problem, we propose a sound approach to randomized smoothing when using floating-point precision with essentially equal speed and matching the certificates of the standard, unsound practice for standard classifiers tested so far. Our only assumption is that we have access to a fair coin.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI