Multimodal Safe Control for Human-Robot Interaction

要約

自律システムが現実世界、特に人の周りに展開され続けるため、自律システムの安全な動作を生成することは重要です。
この研究では、複数の不確実性源があるシステム用の新しい安全コントローラーの開発に焦点を当てます。
我々は、エージェントがシステムがどの離散モードにあるかについて不確実性があり、各モード自体に追加の不確実性が含まれている場合に備えて、マルチモーダル セーフ セット アルゴリズム (MMSSA) と呼ばれる新しいマルチモーダル安全制御方法を定式化します。
私たちの知る限り、これは、マルチモーダルな不確実性を持つシステムに適用される最初のエネルギー関数ベースの安全制御手法です。
私たちはコントローラーを人間とロボットの模擬対話に適用します。人間は完全に合理的な行為者ではないため、ロボットは人間の真の意図を不確実であり、潜在的な意図にはそれぞれ独自の不確実性が関連付けられています。
私たちが提案する安全コントローラを既存の安全制御手法と比較したところ、システムのパフォーマンス (効率など) を妨げず、システムの安全性も向上していることがわかりました。

要約(オリジナル)

Generating safe behaviors for autonomous systems is important as they continue to be deployed in the real world, especially around people. In this work, we focus on developing a novel safe controller for systems where there are multiple sources of uncertainty. We formulate a novel multimodal safe control method, called the Multimodal Safe Set Algorithm (MMSSA) for the case where the agent has uncertainty over which discrete mode the system is in, and each mode itself contains additional uncertainty. To our knowledge, this is the first energy-function-based safe control method applied to systems with multimodal uncertainty. We apply our controller to a simulated human-robot interaction where the robot is uncertain of the human’s true intention and each potential intention has its own additional uncertainty associated with it, since the human is not a perfectly rational actor. We compare our proposed safe controller to existing safe control methods and find that it does not impede the system performance (i.e. efficiency) while also improving the safety of the system.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google