Characterising Interventions in Causal Games

要約

因果ゲームは、マルチエージェント設定で因果クエリに答えることを可能にする確率的グラフィカル モデルです。
これらは、エージェントの自由度と目的を表す決定変数と効用変数を指定することによって、因果ベイジアン ネットワークを拡張します。
マルチエージェント設定では、各エージェントが因果関係のある介入を知る前にポリシーを決定するか、知った後にポリシーを決定するかが重要です。これは、ポリシーを適応させて介入に対応できるかどうかに影響するからです。
その結果、因果ゲームの以前の研究では、許容される介入に時系列的な制約が課されていました。
私たちは、原始的な因果的介入の健全で完全なセットを概説することによってこれを緩和し、任意に複雑な介入クエリの効果をマルチエージェント設定で研究できるようにします。
また、因果メカニズムの設計とコミットメントを考慮することにより、安全な AI システムの設計への応用も実証します。

要約(オリジナル)

Causal games are probabilistic graphical models that enable causal queries to be answered in multi-agent settings. They extend causal Bayesian networks by specifying decision and utility variables to represent the agents’ degrees of freedom and objectives. In multi-agent settings, whether each agent decides on their policy before or after knowing the causal intervention is important as this affects whether they can respond to the intervention by adapting their policy. Consequently, previous work in causal games imposed chronological constraints on permissible interventions. We relax this by outlining a sound and complete set of primitive causal interventions so the effect of any arbitrarily complex interventional query can be studied in multi-agent settings. We also demonstrate applications to the design of safe AI systems by considering causal mechanism design and commitment.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google