Reasoning about Causality in Games

要約

タイトル：ゲームにおける因果推論の理解
要約：

– 因果推論とゲーム理論の相互作用に焦点を当てた論文である。
– 文献によれば、両者を同時に支援する形式的なフレームワークが不足している。
– この問題に対する解決策として、因果ゲームが提案されている。
– 因果ゲームは、関数のカスケードとして解釈することができる。
– この論文では、3つの主要な問題について解決策を提供する。
– 第一に、因果依存関係をどのように一貫した方法でモデリングできるかを提示する。
– 第二に、因果クエリを因果ゲームでどのように計算できるかを定義する。
– 最後に、因果ゲームの他の形式論理学との対応関係を説明し、因果ゲームがどのように他のモデルよりも有用であるかを説明する。

– 因果ゲームは、Pythonのオープンソースライブラリを利用して、様々なアプリケーションに活用できる。

要約(オリジナル)

Causal reasoning and game-theoretic reasoning are fundamental topics in artificial intelligence, among many other disciplines: this paper is concerned with their intersection. Despite their importance, a formal framework that supports both these forms of reasoning has, until now, been lacking. We offer a solution in the form of (structural) causal games, which can be seen as extending Pearl’s causal hierarchy to the game-theoretic domain, or as extending Koller and Milch’s multi-agent influence diagrams to the causal domain. We then consider three key questions: i) How can the (causal) dependencies in games – either between variables, or between strategies – be modelled in a uniform, principled manner? ii) How may causal queries be computed in causal games, and what assumptions does this require? iii) How do causal games compare to existing formalisms? To address question i), we introduce mechanised games, which encode dependencies between agents’ decision rules and the distributions governing the game. In response to question ii), we present definitions of predictions, interventions, and counterfactuals, and discuss the assumptions required for each. Regarding question iii), we describe correspondences between causal games and other formalisms, and explain how causal games can be used to answer queries that other causal or game-theoretic models do not support. Finally, we highlight possible applications of causal games, aided by an extensive open-source Python library.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI