Generative Poisoning Using Random Discriminators

要約

ジェネレーターを学習することにより、サンプル依存のエラーを最小化する摂動を生成する新しいデータ ポイズニング攻撃である ShortcutGen を紹介します。
ShortcutGen の重要な目新しさは、ランダムに初期化された弁別子を使用することです。これは、毒を生成するために必要な偽のショートカットを提供します。
最近の反復的な方法とは異なり、ShortcutGen は、ラベルのない方法で 1 つのフォワード パスだけで摂動を生成できます。また、既存の唯一の生成方法である DeepConfuse と比較して、ShortcutGen は、競争力を維持しながら、より速く簡単にトレーニングできます。
また、単純な拡張戦略を統合することで、早期停止に対する ShortcutGen の堅牢性をさらに高めることができ、拡張と非拡張を組み合わせることで、特に困難な、
転送シナリオ。
最後に、その動作メカニズムを明らかにすることで、より一般的な表現空間を学習することで、ShortcutGen が目に見えないデータに対して機能する可能性があると推測しています。

要約(オリジナル)

We introduce ShortcutGen, a new data poisoning attack that generates sample-dependent, error-minimizing perturbations by learning a generator. The key novelty of ShortcutGen is the use of a randomly-initialized discriminator, which provides spurious shortcuts needed for generating poisons. Different from recent, iterative methods, our ShortcutGen can generate perturbations with only one forward pass in a label-free manner, and compared to the only existing generative method, DeepConfuse, our ShortcutGen is faster and simpler to train while remaining competitive. We also demonstrate that integrating a simple augmentation strategy can further boost the robustness of ShortcutGen against early stopping, and combining augmentation and non-augmentation leads to new state-of-the-art results in terms of final validation accuracy, especially in the challenging, transfer scenario. Lastly, we speculate, through uncovering its working mechanism, that learning a more general representation space could allow ShortcutGen to work for unseen data.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google