Towards the Transferable Audio Adversarial Attack via Ensemble Methods

要約

タイトル：アンサンブル法による転移可能な音声の敵対的攻撃への取り組み

要約：
– 深層学習（DL）モデルは、自動運転、顔認識、音声認識など多くの分野で重大な進展を遂げましたが、敵対的攻撃に対する脆弱性のため、十分な堅牢性と汎化性を有していないことが問題視されています。
– 転移攻撃は、ブラックボックス攻撃の一つの代表的な手法となっています。本研究では、DLベースの音声認識において、敵対的例の転移性に影響を与える可能性のある要因について探求しました。
– また、異なるDLシステムの脆弱性や、決定境界の不規則性にも注目しました。
– 結果として、画像と音声のAEの転移性には、データの関連性において明らかな違いがありました。
– ドロップアウトベースのアンサンブル方法に着想を得て、ランダム勾配アンサンブルと動的勾配重みアンサンブルを提案し、アンサンブルがAEの転移性に与える影響を評価しました。
– 結果として、両手法で作成されたAEは、ブラックボックスAPIへの転移が可能であることが示されました。

要約(オリジナル)

In recent years, deep learning (DL) models have achieved significant progress in many domains, such as autonomous driving, facial recognition, and speech recognition. However, the vulnerability of deep learning models to adversarial attacks has raised serious concerns in the community because of their insufficient robustness and generalization. Also, transferable attacks have become a prominent method for black-box attacks. In this work, we explore the potential factors that impact adversarial examples (AEs) transferability in DL-based speech recognition. We also discuss the vulnerability of different DL systems and the irregular nature of decision boundaries. Our results show a remarkable difference in the transferability of AEs between speech and images, with the data relevance being low in images but opposite in speech recognition. Motivated by dropout-based ensemble approaches, we propose random gradient ensembles and dynamic gradient-weighted ensembles, and we evaluate the impact of ensembles on the transferability of AEs. The results show that the AEs created by both approaches are valid for transfer to the black box API.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI