Transferable Attack for Semantic Segmentation

要約

セマンティック セグメンテーション モデルは、小さな入力の摂動に対して脆弱であることが知られています。
この論文では、敵対的攻撃以外のセマンティック セグメンテーション モデルのパフォーマンスを包括的に分析し、ソース モデルから生成された敵対的例がターゲット モデル、つまり、PGD や FGSM などの従来の攻撃方法を攻撃できないことを観察しました。
はターゲットモデルにうまく転送されないため、転送可能な攻撃、特にセマンティックセグメンテーションに対する転送可能な攻撃を研究する必要があります。
転移可能な攻撃を実現するには、攻撃には、目に見えないモデルに対処するための効果的なデータ拡張機能と変換不変機能、および最適な攻撃方向を見つけるための安定した最適化戦略が組み込まれている必要があることがわかりました。
上記の観察に基づいて、分類から転送可能ないくつかの攻撃を集約することにより、より効果的でより転送性の高い攻撃を実現することにより、セマンティックセグメンテーションのためのアンサンブル攻撃を提案します。
ソース コードと実験結果は、プロジェクト ページ https://github.com/anucvers/TASS から公開されています。

要約(オリジナル)

Semantic segmentation models are known vulnerable to small input perturbations. In this paper, we comprehensively analysis the performance of semantic segmentation models \wrt~adversarial attacks, and observe that the adversarial examples generated from a source model fail to attack the target models, \ie~the conventional attack methods, such as PGD and FGSM, do not transfer well to target models, making it necessary to study the transferable attacks, especially transferable attacks for semantic segmentation. We find that to achieve transferable attack, the attack should come with effective data augmentation and translation-invariant features to deal with unseen models, and stabilized optimization strategies to find the optimal attack direction. Based on the above observations, we propose an ensemble attack for semantic segmentation by aggregating several transferable attacks from classification to achieve more effective attacks with higher transferability. The source code and experimental results are publicly available via our project page: https://github.com/anucvers/TASS.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google