Robots as AI Double Agents: Privacy in Motion Planning

要約

ロボット工学とオートメーションは、近い将来、家庭と職場の状況を変える準備ができています。
ロボットは、意図的に移動し、環境を感知し、環境と対話することに熟達しています。
このテクノロジーの普及は、その機能によって社会的および経済的な利益を約束します。逆に言えば、ロボットが内部を移動し、周囲の世界を感知する機能は悪用されやすいのです。
ロボットは、一般的なセンサーとは異なり、本質的に自律的で、能動的で、意図的です。
このような自動エージェントは、同僚、特権的スペース、その他の関係者のプライバシーを侵害する可能性のある AI 二重スパイになる可能性があります。
この研究では、ロボットの自律的で意図的な動作と感知によってもたらされる可能性がある、十分に研究されていないプライバシーへの避けられない脅威に焦点を当てています。
私たちは、包括的なレビューと並行して、より広範な社会工学的疑問の中で問題を組み立てます。
プライバシーを意識した動作計画の問題は、プライバシーを意識した行動 (保存、不可知論的、または違反) を誘発するために修正できるコスト関数の観点から定式化されます。
コスト関数を変更した操作とナビゲーションのシミュレーション ケース スタディは、場合によってはパフォーマンス (ソリューション パスの長さ) のわずかな変化だけで、プライバシーを侵害する脅威がどのように簡単に注入されるかを実証するために使用されます。
このような機能はすでに広く利用可能になっています。
この予備作業は、計画アルゴリズムによって決定されるインテリジェントなロボットの動作におけるプライバシーをめぐる問題に対処できる、近い将来の総合的かつ学際的な調査の基礎を築くことを目的としています。

要約(オリジナル)

Robotics and automation are poised to change the landscape of home and work in the near future. Robots are adept at deliberately moving, sensing, and interacting with their environments. The pervasive use of this technology promises societal and economic payoffs due to its capabilities – conversely, the capabilities of robots to move within and sense the world around them is susceptible to abuse. Robots, unlike typical sensors, are inherently autonomous, active, and deliberate. Such automated agents can become AI double agents liable to violate the privacy of coworkers, privileged spaces, and other stakeholders. In this work we highlight the understudied and inevitable threats to privacy that can be posed by the autonomous, deliberate motions and sensing of robots. We frame the problem within broader sociotechnological questions alongside a comprehensive review. The privacy-aware motion planning problem is formulated in terms of cost functions that can be modified to induce privacy-aware behavior – preserving, agnostic, or violating. Simulated case studies in manipulation and navigation, with altered cost functions, are used to demonstrate how privacy-violating threats can be easily injected, sometimes with only small changes in performance (solution path lengths). Such functionality is already widely available. This preliminary work is meant to lay the foundations for near-future, holistic, interdisciplinary investigations that can address questions surrounding privacy in intelligent robotic behaviors determined by planning algorithms.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google