When Measures are Unreliable: Imperceptible Adversarial Perturbations toward Top-$k$ Multi-Label Learning

要約

ディープ ニューラル ネットワークの大成功により、敵対的学習は、マルチクラス学習からマルチラベル学習に至るまで、さまざまな研究で広く注目されるようになりました。
しかし、マルチラベル学習に対する既存の敵対的攻撃は、従来の視覚的な知覚不可能性を追求するだけで、Precision@$k$ や mAP@$k$ などの対策から生じる新たな知覚可能な問題を無視しています。
具体的には、十分にトレーニングされたマルチラベル分類器が一部のサンプルで期待をはるかに下回るパフォーマンスを示した場合、被害者は、このパフォーマンスの低下がモデル自体ではなく攻撃に起因していることに簡単に気づくことができます。
したがって、理想的なマルチラベル敵対的攻撃は、視覚認識を欺くだけでなく、対策の監視も回避できる必要があります。
この目的を達成するために、この論文ではまず測定不可感性の概念を提案します。
次に、視覚的知覚と測定的知覚不能の両方を達成できるような敵対的な摂動を生成する新しい損失関数が考案されました。
さらに、凸型の目的を利用する効率的なアルゴリズムが、この目的を最適化するために確立されています。
最後に、PASCAL VOC 2012、MS COCO、NUS WIDE などの大規模なベンチマーク データセットでの広範な実験により、上位 $k$ のマルチラベル システムを攻撃する際の私たちの提案手法の優位性が実証されました。

要約(オリジナル)

With the great success of deep neural networks, adversarial learning has received widespread attention in various studies, ranging from multi-class learning to multi-label learning. However, existing adversarial attacks toward multi-label learning only pursue the traditional visual imperceptibility but ignore the new perceptible problem coming from measures such as Precision@$k$ and mAP@$k$. Specifically, when a well-trained multi-label classifier performs far below the expectation on some samples, the victim can easily realize that this performance degeneration stems from attack, rather than the model itself. Therefore, an ideal multi-labeling adversarial attack should manage to not only deceive visual perception but also evade monitoring of measures. To this end, this paper first proposes the concept of measure imperceptibility. Then, a novel loss function is devised to generate such adversarial perturbations that could achieve both visual and measure imperceptibility. Furthermore, an efficient algorithm, which enjoys a convex objective, is established to optimize this objective. Finally, extensive experiments on large-scale benchmark datasets, such as PASCAL VOC 2012, MS COCO, and NUS WIDE, demonstrate the superiority of our proposed method in attacking the top-$k$ multi-label systems.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google