Classification-Denoising Networks

要約

画像分類とノイズ除去は、ロバスト性の欠如や条件付け情報の部分的無視という相補的な問題に悩まされている。我々は、(ノイズの多い)画像とクラスラベルの結合確率のモデルを通して、両タスクを統合することで、これらの問題を軽減できると主張する。分類はフォワードパスで行われ、その後に条件付けが行われる。Tweedie-Miyasawaの公式を用い、マージナル化とバックプロパゲーションにより計算されるスコアでノイズ除去関数を評価する。学習目的は、クロスエントロピー損失とノイズレベルにわたって積分されたノイズ除去スコアマッチング損失の組み合わせとなる。CIFAR-10とImageNetを用いた数値実験では、参考となる深層畳み込み分類器／ノイズ除去器と比較して、競争力のある分類性能とノイズ除去性能が示され、以前の共同アプローチと比較して大幅に効率が改善された。我々のモデルは、標準的な識別分類器と比較して、敵対的な摂動に対する頑健性が向上しており、ノイズ除去器の差分として敵対的な勾配の新しい解釈を可能にする。

要約(オリジナル)

Image classification and denoising suffer from complementary issues of lack of robustness or partially ignoring conditioning information. We argue that they can be alleviated by unifying both tasks through a model of the joint probability of (noisy) images and class labels. Classification is performed with a forward pass followed by conditioning. Using the Tweedie-Miyasawa formula, we evaluate the denoising function with the score, which can be computed by marginalization and back-propagation. The training objective is then a combination of cross-entropy loss and denoising score matching loss integrated over noise levels. Numerical experiments on CIFAR-10 and ImageNet show competitive classification and denoising performance compared to reference deep convolutional classifiers/denoisers, and significantly improves efficiency compared to previous joint approaches. Our model shows an increased robustness to adversarial perturbations compared to a standard discriminative classifier, and allows for a novel interpretation of adversarial gradients as a difference of denoisers.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL