Agent-Specific Effects

要約

行動と結果の間の因果関係を確立することは、複数のエージェントによる責任ある意思決定の基礎となります。
ただし、そのような関係に対するエージェントの貢献を解釈して定量化することは、重大な課題を引き起こします。
これらの課題は、エージェントのアクションが結果に与える因果関係が他のエージェントがそのアクションにどのように反応するかに依存する、マルチエージェントの逐次的意思決定のコンテキストで特に顕著です。
この論文では、私たちの目的は、エージェントの行動の因果関係を、エージェントが他のエージェントに及ぼす影響に帰すための体系的なアプローチを提示することです。
マルチエージェントのマルコフ決定プロセスに焦点を当て、他のエージェントを介して伝播する結果に対するエージェントの行動の影響を測定する新しい因果量であるエージェント固有効果 (ASE) を導入します。
次に、ASE の反事実的な対応物 (cf-ASE) に目を向け、cf-ASE を識別するための十分な条件セットを提供し、cf-ASE を推定するための実用的なサンプリング ベースのアルゴリズムを提案します。
最後に、敗血症管理環境を含むシミュレーションベースのテストベッドを通じて cf-ASE の有用性を実験的に評価します。

要約(オリジナル)

Establishing causal relationships between actions and outcomes is fundamental for accountable multi-agent decision-making. However, interpreting and quantifying agents’ contributions to such relationships pose significant challenges. These challenges are particularly prominent in the context of multi-agent sequential decision-making, where the causal effect of an agent’s action on the outcome depends on how the other agents respond to that action. In this paper, our objective is to present a systematic approach for attributing the causal effects of agents’ actions to the influence they exert on other agents. Focusing on multi-agent Markov decision processes, we introduce agent-specific effects (ASE), a novel causal quantity that measures the effect of an agent’s action on the outcome that propagates through other agents. We then turn to the counterfactual counterpart of ASE (cf-ASE), provide a sufficient set of conditions for identifying cf-ASE, and propose a practical sampling-based algorithm for estimating it. Finally, we experimentally evaluate the utility of cf-ASE through a simulation-based testbed, which includes a sepsis management environment.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google