Causal Social Explanations for Stochastic Sequential Multi-Agent Decision-Making

要約

確率論的シーケンシャル マルチエージェント環境におけるエージェントの決定の因果的説明を生成するための新しいフレームワークを提示します。
説明は自然言語による会話を介して行われ、幅広いユーザー クエリに回答し、連想的、介入主義的、または事実に反する因果関係の推論を必要とします。
特定の因果グラフを想定する代わりに、私たちの方法は相互作用の生成モデルに依存して、決定の背後にある顕著な原因を特定するために使用される反事実の世界をシミュレートします。
自動運転のためのモーションプランニングの方法を実装し、結合された相互作用を使用してシミュレートされたシナリオでテストします。
私たちの方法は、関連する原因を正しく識別してランク付けし、ユーザーのクエリに簡潔な説明を提供します。

要約(オリジナル)

We present a novel framework to generate causal explanations for the decisions of agents in stochastic sequential multi-agent environments. Explanations are given via natural language conversations answering a wide range of user queries and requiring associative, interventionist, or counterfactual causal reasoning. Instead of assuming any specific causal graph, our method relies on a generative model of interactions to simulate counterfactual worlds which are used to identify the salient causes behind decisions. We implement our method for motion planning for autonomous driving and test it in simulated scenarios with coupled interactions. Our method correctly identifies and ranks the relevant causes and delivers concise explanations to the users’ queries.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google