Tropical Bisectors and Carlini-Wagner Attacks

要約

Pasque et al。
最後の層の活性化関数として熱帯対称メトリックを使用すると、Carlini-Wagner攻撃を含む最先端の攻撃に対する畳み込みニューラルネットワーク（CNNS）の堅牢性が向上することを示しました。
この改善は、攻撃が熱帯層の非分化性に特に適合していない場合に発生します。
さらに、彼らは、熱帯CNNの決定境界が熱帯二等分によって定義されることを示しました。
このホワイトペーパーでは、熱帯二等分線の組み合わせを調査し、熱帯埋め込み層がCarlini-Wagner攻撃に対する堅牢性をどのように高めるかを分析します。
熱帯CNNの決定境界が持つことができる線形セグメントの数の上限を証明します。
次に、熱帯建築に合わせて特別に調整されたCarlini-Wagner攻撃の洗練されたバージョンを提案します。
MNISTおよびLENET5を使用した計算実験では、攻撃により成功率が向上しました。

要約(オリジナル)

Pasque et al. showed that using a tropical symmetric metric as an activation function in the last layer can improve the robustness of convolutional neural networks (CNNs) against state-of-the-art attacks, including the Carlini-Wagner attack. This improvement occurs when the attacks are not specifically adapted to the non-differentiability of the tropical layer. Moreover, they showed that the decision boundary of a tropical CNN is defined by tropical bisectors. In this paper, we explore the combinatorics of tropical bisectors and analyze how the tropical embedding layer enhances robustness against Carlini-Wagner attacks. We prove an upper bound on the number of linear segments the decision boundary of a tropical CNN can have. We then propose a refined version of the Carlini-Wagner attack, specifically tailored for the tropical architecture. Computational experiments with MNIST and LeNet5 showcase our attacks improved success rate.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google