SoK: On the Semantic AI Security in Autonomous Driving

要約

自動運転 (AD) システムは、AI コンポーネントに依存して安全性と正しい運転の意思決定を行います。
残念ながら、今日の AI アルゴリズムは一般に敵対的な攻撃に対して脆弱であることが知られています。
ただし、このような AI コンポーネント レベルの脆弱性がシステム レベルで意味論的な影響を与えるためには、(1) システム レベルの攻撃入力空間から AI コンポーネント レベルの攻撃入力空間まで、および (2) 両方の重要な意味論的なギャップに対処する必要があります。
AI コンポーネント レベルの攻撃の影響からシステム レベルの攻撃の影響まで。
本稿では、そのような研究空間を、汎用 AI セキュリティではなくセマンティック AI セキュリティと定義します。
過去 5 年間にわたり、AD コンテキストにおけるセマンティック AI セキュリティの課題に取り組むために、ますます多くの研究が行われており、指数関数的な成長傾向が見られ始めています。
本稿では、このような成長を続けるセマンティック AD AI セキュリティ研究空間に関する知識を初めて体系化しました。
合計 53 件のそのような論文を収集して分析し、セキュリティ分野にとって重要な研究側面に基づいて体系的に分類しています。
既存の AD AI セキュリティ作品間の垂直方向と、密接に関連するドメインのセキュリティ作品との水平方向の両方の定量的比較に基づいて、観察された 6 つの最も大きな科学的ギャップを要約します。
これらにより、設計レベルだけでなく、研究目標、方法論、コミュニティレベルでも洞察と潜在的な将来の方向性を提供することができます。
最も重要な科学的方法論レベルのギャップに対処するために、私たちは、セマンティック AD AI セキュリティ研究コミュニティ向けに、PASS という名前の、オープンソースで統一された拡張可能なシステム駆動型評価プラットフォームの開発に率先して取り組んでいます。
また、実装されたプラットフォーム プロトタイプを使用して、代表的なセマンティック AD AI 攻撃を使用したプラットフォームの機能と利点を紹介します。

要約(オリジナル)

Autonomous Driving (AD) systems rely on AI components to make safety and correct driving decisions. Unfortunately, today’s AI algorithms are known to be generally vulnerable to adversarial attacks. However, for such AI component-level vulnerabilities to be semantically impactful at the system level, it needs to address non-trivial semantic gaps both (1) from the system-level attack input spaces to those at AI component level, and (2) from AI component-level attack impacts to those at the system level. In this paper, we define such research space as semantic AI security as opposed to generic AI security. Over the past 5 years, increasingly more research works are performed to tackle such semantic AI security challenges in AD context, which has started to show an exponential growth trend. In this paper, we perform the first systematization of knowledge of such growing semantic AD AI security research space. In total, we collect and analyze 53 such papers, and systematically taxonomize them based on research aspects critical for the security field. We summarize 6 most substantial scientific gaps observed based on quantitative comparisons both vertically among existing AD AI security works and horizontally with security works from closely-related domains. With these, we are able to provide insights and potential future directions not only at the design level, but also at the research goal, methodology, and community levels. To address the most critical scientific methodology-level gap, we take the initiative to develop an open-source, uniform, and extensible system-driven evaluation platform, named PASS, for the semantic AD AI security research community. We also use our implemented platform prototype to showcase the capabilities and benefits of such a platform using representative semantic AD AI attacks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google