要約
インダストリー 4.0 では、人工知能/機械学習 (AI/ML) とデジタル ツイン (DT) テクノロジーの統合によって加速される複雑なロボットの台頭が見られます。
これらのテクノロジーには多くの利点がありますが、潜在的なプライバシーとセキュリティのリスクももたらします。
この論文では、AI および DT モデルによって実現されるロボットをターゲットとしたプライバシー攻撃を調査します。
第一原理 (物理ベースなど) から派生したモデルの潜在的な抽出に加えて、ML モデルの漏洩とデータ漏洩についても説明します。
また、ML モデルのトレーニング、責任ある AI と DT の安全対策、データ ガバナンス、およびこれらの攻撃の有効性に対する倫理的考慮事項の影響に触れる、DT 統合ロボティクスの設計上の考慮事項についても説明します。
私たちは、信頼できる自律性アプローチを提唱し、ロボティクス、AI、DT テクノロジーを、安全で信頼性の高い AI ロボット システムのための堅牢な倫理フレームワークおよび信頼性の原則と組み合わせる必要性を強調しています。
要約(オリジナル)
Industry 4.0 has witnessed the rise of complex robots fueled by the integration of Artificial Intelligence/Machine Learning (AI/ML) and Digital Twin (DT) technologies. While these technologies offer numerous benefits, they also introduce potential privacy and security risks. This paper surveys privacy attacks targeting robots enabled by AI and DT models. Exfiltration and data leakage of ML models are discussed in addition to the potential extraction of models derived from first-principles (e.g., physics-based). We also discuss design considerations with DT-integrated robotics touching on the impact of ML model training, responsible AI and DT safeguards, data governance and ethical considerations on the effectiveness of these attacks. We advocate for a trusted autonomy approach, emphasizing the need to combine robotics, AI, and DT technologies with robust ethical frameworks and trustworthiness principles for secure and reliable AI robotic systems.
arxiv情報
| 著者 | Ivan A. Fernandez,Subash Neupane,Trisha Chakraborty,Shaswata Mitra,Sudip Mittal,Nisha Pillai,Jingdao Chen,Shahram Rahimi |
| 発行日 | 2024-06-27 00:59:20+00:00 |
| arxivサイト | arxiv_id(pdf) |
提供元, 利用サービス
arxiv.jp, Google