AI Security Threats against Pervasive Robotic Systems: A Course for Next Generation Cybersecurity Workforce

要約

ロボティクス、自動化、および関連する人工知能 (AI) システムが普及し、セキュリティ、安全性、精度、および信頼に関する懸念が生じています。
人間の近くで動作する物理的なロボットへの依存度が高まる中、これらのシステムのセキュリティは、プライバシーの侵害、重要な操作の妨害行為、および身体的危害につながる可能性のあるサイバー攻撃を防ぐために、ますます重要になっています。
そのようなシステムを守ることができる専門家の現在の不足は、そのようなカリキュラムの開発と統合を必要とします.
このコースの説明には、「普及型ロボット システムに対する AI セキュリティの脅威」に関する 7 つの自己完結型の適応型モジュールに関する詳細が含まれています。
トピックは次のとおりです。1) 導入、攻撃の例、および動機。
2) – ロボット AI の攻撃面と侵入テスト。
3) – 入力センサーの攻撃パターンとセキュリティ戦略。
4) – トレーニング攻撃と関連するセキュリティ戦略。
5) – 推論攻撃と関連するセキュリティ戦略。
6) – アクチュエータ攻撃と関連するセキュリティ戦略。
7) – AI、ロボティクス、およびサイバーセキュリティの倫理。

要約(オリジナル)

Robotics, automation, and related Artificial Intelligence (AI) systems have become pervasive bringing in concerns related to security, safety, accuracy, and trust. With growing dependency on physical robots that work in close proximity to humans, the security of these systems is becoming increasingly important to prevent cyber-attacks that could lead to privacy invasion, critical operations sabotage, and bodily harm. The current shortfall of professionals who can defend such systems demands development and integration of such a curriculum. This course description includes details about seven self-contained and adaptive modules on ‘AI security threats against pervasive robotic systems’. Topics include: 1) Introduction, examples of attacks, and motivation; 2) – Robotic AI attack surfaces and penetration testing; 3) – Attack patterns and security strategies for input sensors; 4) – Training attacks and associated security strategies; 5) – Inference attacks and associated security strategies; 6) – Actuator attacks and associated security strategies; and 7) – Ethics of AI, robotics, and cybersecurity.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google