Adversarial Attacks on Spiking Convolutional Neural Networks for Event-based Vision

要約

イベントベースのダイナミックビジョンセンサーは、スパイクの形で非常にまばらな出力を提供するため、低消費電力アプリケーションに適しています。畳み込み型スパイク・ニューラル・ネットワークは、このようなイベントベースのデータをモデル化し、非同期型ニューロモルフィック・ハードウェアに配置すると、その省エネ性能をフルに発揮します。イベントベースビジョンはまだ始まったばかりの分野であるため、悪意のある敵対的な攻撃に対してスパイクニューラルネットワークの感度はこれまでほとんど注目されてきませんでした。我々は、ホワイトボックスの敵対的攻撃アルゴリズムをイベントベースの視覚データの離散的で疎な性質に適応させる方法を示し、現在の最先端アルゴリズムよりも小さな摂動振幅で高い成功率を実証する。また、初めて、これらの摂動の有効性をニューロモルフィックハードウェア上で直接検証しました。最後に、得られた摂動の特性、防御戦略としての敵対的訓練の効果、および今後の方向性について議論する。

要約(オリジナル)

Event-based dynamic vision sensors provide very sparse output in the form of spikes, which makes them suitable for low-power applications. Convolutional spiking neural networks model such event-based data and develop their full energy-saving potential when deployed on asynchronous neuromorphic hardware. Event-based vision being a nascent field, the sensitivity of spiking neural networks to potentially malicious adversarial attacks has received little attention so far. We show how white-box adversarial attack algorithms can be adapted to the discrete and sparse nature of event-based visual data, and demonstrate smaller perturbation magnitudes at higher success rates than the current state-of-the-art algorithms. For the first time, we also verify the effectiveness of these perturbations directly on neuromorphic hardware. Finally, we discuss the properties of the resulting perturbations, the effect of adversarial training as a defense strategy, and future directions.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL