Time Can Invalidate Algorithmic Recourse

要約

アルゴリズムリコース（AR）は、機械学習予測因子によって行われた不利な決定を覆すための実用的な手順をユーザーに提供することを目的としています。
ただし、これらのアクションは、多くの場合、実装に時間がかかります（例：学位を取得するには何年もかかる場合があります）、世界が進化するにつれてそれらの効果は異なる場合があります。
したがって、動的環境では有効なままである頼みを求めるのは自然です。
この論文では、因果関係のレンズを通して問題をキャストすることにより、時間の経過とともにアルゴリズムの頼みの堅牢性を研究します。
理論的および経験的に、（堅牢な）因果的なAR法は、世界が静止している場合を除いて、時間の経過とともに失敗する可能性があることを実証します。
さらに重要なことは、世界が完全に決定論的でない限り、反事実的なARを最適に解決することはできません。
これを説明するために、確率的プロセスに近似する推定器にアクセスできるという仮定の下で時間を明示的に説明する、時間ARのシンプルで効果的なアルゴリズムを提案します。
合成および現実的なデータセットのシミュレーションは、時間を考慮することで、データ分布の潜在的な傾向に対してより回復力のあるソリューションをどのように生成するかを示しています。

要約(オリジナル)

Algorithmic Recourse (AR) aims to provide users with actionable steps to overturn unfavourable decisions made by machine learning predictors. However, these actions often take time to implement (e.g., getting a degree can take years), and their effects may vary as the world evolves. Thus, it is natural to ask for recourse that remains valid in a dynamic environment. In this paper, we study the robustness of algorithmic recourse over time by casting the problem through the lens of causality. We demonstrate theoretically and empirically that (even robust) causal AR methods can fail over time, except in the — unlikely — case that the world is stationary. Even more critically, unless the world is fully deterministic, counterfactual AR cannot be solved optimally. To account for this, we propose a simple yet effective algorithm for temporal AR that explicitly accounts for time under the assumption of having access to an estimator approximating the stochastic process. Our simulations on synthetic and realistic datasets show how considering time produces more resilient solutions to potential trends in the data distribution.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google