Causal Dependence Plots

要約

人工知能や機械学習モデルを説明することがますます重要になっています。
このようなデータ駆動型システムを賢明に使用するには、システムがデータ入力にどのように因果的に依存するかを含め、システムが世界とどのように相互作用するかを理解する必要があります。
この研究では、ある変数 (結果) が別の変数 (予測子) の変化にどのように依存するかを視覚化する因果依存プロット (CDP) を開発します。$\textit{他の予測子変数の結果として生じる因果的変化とともに}$
。
重要なことに、CDP は、他の予測変数を一定に保持したり、それらが独立していると仮定したりすることに基づく標準的な手法とは異なります。
因果関係の結論には因果関係の仮定が必要であるため、CDP は補助因果モデルを利用します。
シミュレーションと実際のデータ実験により、CDP をモジュール方式で因果学習または感度分析の方法と組み合わせることができることを示します。
人々は入出力依存性について因果的に考えることが多いため、CDP は xAI または解釈可能な機械学習ツールキットの強力なツールとなり、科学的機械学習やアルゴリズムの公平性などのアプリケーションに貢献できます。

要約(オリジナル)

Explaining artificial intelligence or machine learning models is increasingly important. To use such data-driven systems wisely we must understand how they interact with the world, including how they depend causally on data inputs. In this work we develop Causal Dependence Plots (CDPs) to visualize how one variable–an outcome–depends on changes in another variable–a predictor–$\textit{along with any consequent causal changes in other predictor variables}$. Crucially, CDPs differ from standard methods based on holding other predictors constant or assuming they are independent. CDPs make use of an auxiliary causal model because causal conclusions require causal assumptions. With simulations and real data experiments, we show CDPs can be combined in a modular way with methods for causal learning or sensitivity analysis. Since people often think causally about input-output dependence, CDPs can be powerful tools in the xAI or interpretable machine learning toolkit and contribute to applications like scientific machine learning and algorithmic fairness.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google