Robust Neural Architecture Search

要約

タイトル：Robust Neural Architecture Search（頑強かつ高精度なニューラルアーキテクチャサーチ）

要約：

1. 近年、ニューラルアーキテクチャサーチ（NAS）の需要が高まっているが、NASによって生成されるモデルは、さまざまな悪意のある攻撃に対してより脆弱であることが問題になっている。

2. 従来の堅牢なNAS方法は、攻撃的なトレーニングを利用してNASによって生成されたモデルの堅牢性を高めることを目的としていたが、精度という本質的な要素を無視していた。

3. 本論文では、頑強かつ高精度なニューラルアーキテクチャサーチ（RNAS）という新しいNAS方法を提案している。

4. RNASは、正確性と堅牢性の両方を持つアーキテクチャを生成するための正則化項を設計している。

5. 検索コストを削減するために、RNASは、敵対性例ではなくノイズ例を入力として使用することを提案している。

6. 幅広い実験により、RNASは画像分類と敵対攻撃の両方で最先端の性能を発揮しており、提案されたRNASは、堅牢性と精度の間の適切なバランスを実現していることが示されている。

要約(オリジナル)

Neural Architectures Search (NAS) becomes more and more popular over these years. However, NAS-generated models tends to suffer greater vulnerability to various malicious attacks. Lots of robust NAS methods leverage adversarial training to enhance the robustness of NAS-generated models, however, they neglected the nature accuracy of NAS-generated models. In our paper, we propose a novel NAS method, Robust Neural Architecture Search (RNAS). To design a regularization term to balance accuracy and robustness, RNAS generates architectures with both high accuracy and good robustness. To reduce search cost, we further propose to use noise examples instead adversarial examples as input to search architectures. Extensive experiments show that RNAS achieves state-of-the-art (SOTA) performance on both image classification and adversarial attacks, which illustrates the proposed RNAS achieves a good tradeoff between robustness and accuracy.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI