Explainable Artificial Intelligence (XAI) for Malware Analysis: A Survey of Techniques, Applications, and Open Challenges

要約

機械学習（ML）は近年急速に進歩しており、金融、医学、サイバーセキュリティなどの分野に革命をもたらしています。
マルウェア検出では、MLベースのアプローチが高精度を実証しています。
しかし、彼らの透明性の欠如は大きな課題をもたらします。
従来のブラックボックスモデルは、予測に対して解釈可能な正当化を提供することができず、検出の背後にある理由を理解することが脅威の緩和と対応に不可欠なセキュリティ批判的な環境での採用を制限することができます。
説明可能なAI（XAI）は、強力な検出機能を維持しながらモデルの解釈可能性を高めることにより、このギャップに対処します。
この調査では、説明可能性の方法に特に焦点を当てた、マルウェア分析のための最先端のML技術の包括的なレビューを提示します。
既存のXAIフレームワーク、マルウェア分類と検出におけるアプリケーション、およびマルウェア検出モデルのより解釈可能にすることに関連する課題を調べます。
さらに、最近の進歩を調査し、説明可能なマルウェア分析の分野で開かれた研究の課題を強調します。
Xai駆動型のマルウェア検出アプローチの構造化された概要を提供することにより、この調査は、サイバーセキュリティのMLパフォーマンスと説明可能性のギャップを埋めることを目指している研究者と実践者にとって貴重なリソースとして機能します。

要約(オリジナル)

Machine learning (ML) has rapidly advanced in recent years, revolutionizing fields such as finance, medicine, and cybersecurity. In malware detection, ML-based approaches have demonstrated high accuracy; however, their lack of transparency poses a significant challenge. Traditional black-box models often fail to provide interpretable justifications for their predictions, limiting their adoption in security-critical environments where understanding the reasoning behind a detection is essential for threat mitigation and response. Explainable AI (XAI) addresses this gap by enhancing model interpretability while maintaining strong detection capabilities. This survey presents a comprehensive review of state-of-the-art ML techniques for malware analysis, with a specific focus on explainability methods. We examine existing XAI frameworks, their application in malware classification and detection, and the challenges associated with making malware detection models more interpretable. Additionally, we explore recent advancements and highlight open research challenges in the field of explainable malware analysis. By providing a structured overview of XAI-driven malware detection approaches, this survey serves as a valuable resource for researchers and practitioners seeking to bridge the gap between ML performance and explainability in cybersecurity.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google