Feasible Action Space Reduction for Quantifying Causal Responsibility in Continuous Spatial Interactions

要約

あるエージェントが別のエージェントに及ぼす因果的影響を理解することは、自動化された車両やモバイルロボットなどの人工的にインテリジェントなシステムを人間に居住した環境に安全に展開するために重要です。
因果関係の既存のモデルは、個別のアクションを備えたシナリオの単純化された抽象化に対処し、したがって、空間的相互作用の責任を理解する際に実際の使用を制限します。
空間的に相互作用するエージェントがシーンに埋め込まれ、各瞬間にアクションに従う必要があるという仮定に基づいて、実行可能なアクション空間削減（恐怖）は、個別のアクションを備えたグリッドワールド設定で因果関係の責任のメトリックとして提案されました。
実際の相互作用には連続的なアクションスペースが含まれるため、このホワイトペーパーでは、空間的相互作用における因果責任を測定するための恐怖メトリックの定式化を提案します。
原型の宇宙共有競合におけるメトリックの有用性を説明し、後方の責任を分析し、エージェントの意思決定を導く将来の見通し責任を推定するためのアプリケーションを紹介します。
私たちの結果は、人工剤を設計および工学するための恐怖指標の可能性、および人間の周りのエージェントの責任を評価するための可能性を強調しています。

要約(オリジナル)

Understanding the causal influence of one agent on another agent is crucial for safely deploying artificially intelligent systems such as automated vehicles and mobile robots into human-inhabited environments. Existing models of causal responsibility deal with simplified abstractions of scenarios with discrete actions, thus, limiting real-world use when understanding responsibility in spatial interactions. Based on the assumption that spatially interacting agents are embedded in a scene and must follow an action at each instant, Feasible Action-Space Reduction (FeAR) was proposed as a metric for causal responsibility in a grid-world setting with discrete actions. Since real-world interactions involve continuous action spaces, this paper proposes a formulation of the FeAR metric for measuring causal responsibility in space-continuous interactions. We illustrate the utility of the metric in prototypical space-sharing conflicts, and showcase its applications for analysing backward-looking responsibility and in estimating forward-looking responsibility to guide agent decision making. Our results highlight the potential of the FeAR metric for designing and engineering artificial agents, as well as for assessing the responsibility of agents around humans.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google