The Threat of Adversarial Attacks on Machine Learning in Network Security — A Survey

要約

機械学習モデルにより、多くの意思決定支援システムがより高速で、より正確で、より効率的になりました。
ただし、ネットワーク セキュリティにおける機械学習のアプリケーションは、他のドメインと比較して、積極的な敵対的攻撃の不均衡な脅威に直面しています。
これは、マルウェア検出、侵入検出、スパム フィルタリングなどのネットワーク セキュリティにおける機械学習アプリケーション自体が本質的に敵対的であるためです。
攻撃者と防御者の間の軍拡競争と見なされる可能性のあるもので、敵対者は、システムをバイパスして間違った予測を誘導するように明示的に設計された入力を使用して、機械学習システムを常に調査します。
この調査では、まず、機械学習の手法、タスク、深さの分類法を提供します。
次に、ネットワーク セキュリティ アプリケーションにおける機械学習の分類を紹介します。
次に、ネットワーク セキュリティにおける機械学習に対するさまざまな敵対的攻撃を調べ、ネットワーク セキュリティにおける敵対的攻撃に対する 2 つの分類アプローチを紹介します。
まず、ネットワーク セキュリティ アプリケーションの分類法に基づいて、ネットワーク セキュリティにおける敵対的攻撃を分類します。
次に、ネットワーク セキュリティにおける敵対的攻撃を、問題空間と特徴空間の次元分類モデルに分類します。
次に、機械学習ベースのネットワーク セキュリティ アプリケーションに対する敵対的攻撃に対するさまざまな防御を分析します。
最後に、敵対的リスク グリッド マップを導入し、リスク グリッド マップを使用してネットワーク セキュリティの機械学習に対するいくつかの既存の敵対的攻撃を評価します。
また、各攻撃分類が敵対的リスク グリッド マップ内のどこにあるかを特定します。

要約(オリジナル)

Machine learning models have made many decision support systems to be faster, more accurate, and more efficient. However, applications of machine learning in network security face a more disproportionate threat of active adversarial attacks compared to other domains. This is because machine learning applications in network security such as malware detection, intrusion detection, and spam filtering are by themselves adversarial in nature. In what could be considered an arm’s race between attackers and defenders, adversaries constantly probe machine learning systems with inputs that are explicitly designed to bypass the system and induce a wrong prediction. In this survey, we first provide a taxonomy of machine learning techniques, tasks, and depth. We then introduce a classification of machine learning in network security applications. Next, we examine various adversarial attacks against machine learning in network security and introduce two classification approaches for adversarial attacks in network security. First, we classify adversarial attacks in network security based on a taxonomy of network security applications. Secondly, we categorize adversarial attacks in network security into a problem space vs feature space dimensional classification model. We then analyze the various defenses against adversarial attacks on machine learning-based network security applications. We conclude by introducing an adversarial risk grid map and evaluating several existing adversarial attacks against machine learning in network security using the risk grid map. We also identify where each attack classification resides within the adversarial risk grid map.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google