Beyond Boundaries: A Comprehensive Survey of Transferable Attacks on AI Systems

要約

人工知能（AI）システムは、自律車両から生体認証まで、ますます重要なアプリケーションを支えているため、移転可能な攻撃に対する脆弱性は懸念が高まっています。
これらの攻撃は、インスタンス、ドメイン、モデル、タスク、モダリティ、さらにはハードウェアプラットフォームを越えて一般化するように設計されており、セキュリティ、プライバシー、およびシステムの完全性に深刻なリスクをもたらします。
この調査では、回避、バックドア、データ中毒、モデルの盗み、モデルの反転、メンバーシップ推論、サイドチャネル攻撃など、7つの主要なカテゴリにわたる7つの主要なカテゴリにわたる譲渡可能な攻撃の最初の包括的なレビューを提供します。
統一された6次元の分類法、クロスインスタンス、クロスドメイン、クロスモデリティ、クロスモデル、クロスタスク、およびクロスハードウェアを紹介します。
このフレームワークを通じて、AIシステムへの移転可能な攻撃の基礎となるメカニズムと実際的な意味の両方を調べます。
さらに、データの増強と最適化戦略を中心に編成された攻撃移転性を高めるための最先端の方法を確認します。
断片化された研究を統合し、重要な将来の方向性を特定することにより、この作業は、現実世界のAIシステムにおける移転可能な脅威を理解、評価、防御するための基礎的なロードマップを提供します。

要約(オリジナル)

As Artificial Intelligence (AI) systems increasingly underpin critical applications, from autonomous vehicles to biometric authentication, their vulnerability to transferable attacks presents a growing concern. These attacks, designed to generalize across instances, domains, models, tasks, modalities, or even hardware platforms, pose severe risks to security, privacy, and system integrity. This survey delivers the first comprehensive review of transferable attacks across seven major categories, including evasion, backdoor, data poisoning, model stealing, model inversion, membership inference, and side-channel attacks. We introduce a unified six-dimensional taxonomy: cross-instance, cross-domain, cross-modality, cross-model, cross-task, and cross-hardware, which systematically captures the diverse transfer pathways of adversarial strategies. Through this framework, we examine both the underlying mechanics and practical implications of transferable attacks on AI systems. Furthermore, we review cutting-edge methods for enhancing attack transferability, organized around data augmentation and optimization strategies. By consolidating fragmented research and identifying critical future directions, this work provides a foundational roadmap for understanding, evaluating, and defending against transferable threats in real-world AI systems.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google