Security Considerations in AI-Robotics: A Survey of Current Methods, Challenges, and Opportunities

要約

ロボット工学と人工知能 (AI) は、その誕生以来、密​​接に絡み合ってきました。
今日、AI ロボティクス システムは、ロボット掃除機から半自動運転車に至るまで、私たちの日常生活に不可欠な部分となっています。
これらのシステムは、認識、ナビゲーションと計画、制御という 3 つの基本的なアーキテクチャ要素に基づいて構築されています。
しかし、AI とロボティクス システムの統合により私たちの生活の質は向上しましたが、一方で、これらのシステムはセキュリティ攻撃に対して脆弱であるという深刻な問題も生じています。
AI ロボティクス システムを構成する物理コンポーネント、アルゴリズム、データは悪意のある攻撃者によって悪用される可能性があり、悲惨な結果を招く可能性があります。
AI ロボット システムにおけるセキュリティ上の懸念に対処する必要性を動機として、このペーパーでは、攻撃対象領域、倫理的および法的懸念、ヒューマン ロボット インタラクション (HRI) セキュリティの 3 つの側面にわたる包括的な調査と分類を示します。
私たちの目標は、ユーザー、開発者、その他の関係者にこれらの領域の全体的な理解を提供し、AI-ロボティクス システム全体のセキュリティを強化することです。
まず、潜在的な攻撃対象領域を調査し、軽減する防御戦略を提供します。
次に、依存性や心理的影響などの倫理的問題、およびこれらのシステムの説明責任に関する法的懸念を掘り下げます。
さらに、プライバシー、完全性、安全性、信頼性、説明可能性の懸念を考慮して、HRI などの新たなトレンドについても説明します。
最後に、このダイナミックで有望な分野における将来の研究の方向性についての私たちのビジョンを示します。

要約(オリジナル)

Robotics and Artificial Intelligence (AI) have been inextricably intertwined since their inception. Today, AI-Robotics systems have become an integral part of our daily lives, from robotic vacuum cleaners to semi-autonomous cars. These systems are built upon three fundamental architectural elements: perception, navigation and planning, and control. However, while the integration of AI-Robotics systems has enhanced the quality our lives, it has also presented a serious problem – these systems are vulnerable to security attacks. The physical components, algorithms, and data that make up AI-Robotics systems can be exploited by malicious actors, potentially leading to dire consequences. Motivated by the need to address the security concerns in AI-Robotics systems, this paper presents a comprehensive survey and taxonomy across three dimensions: attack surfaces, ethical and legal concerns, and Human-Robot Interaction (HRI) security. Our goal is to provide users, developers and other stakeholders with a holistic understanding of these areas to enhance the overall AI-Robotics system security. We begin by surveying potential attack surfaces and provide mitigating defensive strategies. We then delve into ethical issues, such as dependency and psychological impact, as well as the legal concerns regarding accountability for these systems. Besides, emerging trends such as HRI are discussed, considering privacy, integrity, safety, trustworthiness, and explainability concerns. Finally, we present our vision for future research directions in this dynamic and promising field.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google