Local Causal Discovery for Structural Evidence of Direct Discrimination

要約

公平性は、ポリシー設計とアルゴリズムによる意思決定における重要な目標です。
不公平の因果経路を特定するには、基礎となる構造的因果モデルの知識が必要ですが、そのモデルは不完全であるか利用できない可能性があります。
これにより、複雑なドメインまたは知識の少ないドメインにおける因果的公平性分析の実用性が制限されます。
この実用性のギャップを軽減するために、私たちは公平性アプリケーションのための効率的な因果発見方法を開発することを提唱します。
この目的を達成するために、直接差別の構造的証拠を回復する多項式時間アルゴリズムである直接差別のための局所発見 (LD3) を導入します。
LD3 は、変数セットのサイズに関して線形数の条件付き独立性テストを実行します。
さらに、直接識別の定性的尺度である加重制御直接効果 (CDE) を識別するためのグラフ基準を提案します。
LD3 によって返された知識によってこの基準が満たされ、因果的公平性の尺度として重み付けされた CDE のアクセシビリティが向上することを証明します。
肝臓移植の割り当てをケーススタディとして取り上げ、複雑な意思決定システムにおける公平性のモデリングに対する LD3 の潜在的な影響を強調します。
実世界のデータの結果は、実行に 197 倍から 5870 倍の時間がかかったベースラインよりも、より妥当な因果関係を示しています。

要約(オリジナル)

Fairness is a critical objective in policy design and algorithmic decision-making. Identifying the causal pathways of unfairness requires knowledge of the underlying structural causal model, which may be incomplete or unavailable. This limits the practicality of causal fairness analysis in complex or low-knowledge domains. To mitigate this practicality gap, we advocate for developing efficient causal discovery methods for fairness applications. To this end, we introduce local discovery for direct discrimination (LD3): a polynomial-time algorithm that recovers structural evidence of direct discrimination. LD3 performs a linear number of conditional independence tests with respect to variable set size. Moreover, we propose a graphical criterion for identifying the weighted controlled direct effect (CDE), a qualitative measure of direct discrimination. We prove that this criterion is satisfied by the knowledge returned by LD3, increasing the accessibility of the weighted CDE as a causal fairness measure. Taking liver transplant allocation as a case study, we highlight the potential impact of LD3 for modeling fairness in complex decision systems. Results on real-world data demonstrate more plausible causal relations than baselines, which took 197x to 5870x longer to execute.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google