Endogenous Macrodynamics in Algorithmic Recourse

要約

反事実の説明 (CE) とアルゴリズム的手段 (AR) に関する既存の研究は、静的環境における単一の個人に主に焦点を当ててきました。何らかの推定モデルが与えられた場合、目標は、さまざまな要望を満​​たす個々のインスタンスに対する有効な反事実を見つけることです。
このような反事実がデータやモデルのドリフトなどのダイナミクスを処理できるかどうかは、依然としてほとんど解明されていない研究課題です。
また、ある個人による救済措置の実際の実施が他の個人にどのような影響を与えるかという、関連する問題に関する研究も驚くほど少ない。
この取り組みを通じて、私たちはそのギャップを埋めることを目指しています。
まず、既存の方法論の多くが一般化されたフレームワークによって集合的に記述できることを示します。
次に我々は、既存の枠組みは隠れた外部償還コストを考慮しておらず、それはグループレベルでの内生的償還力学を研究する場合にのみ明らかになる、と主張する。
さまざまな最先端の反事実ジェネレーターといくつかのベンチマーク データセットを含むシミュレーション実験を通じて、多数の反事実を生成し、その結果生じるドメインとモデルのシフトを研究します。
誘発された変化は、状況によってはアルゴリズム依存の適用性を妨げる可能性が高いほど十分に大きいことがわかりました。
幸いなことに、これらの懸念を軽減するためのさまざまな戦略が見つかりました。
リソースのダイナミクスを研究するための当社のシミュレーション フレームワークは高速でオープンソースです。

要約(オリジナル)

Existing work on Counterfactual Explanations (CE) and Algorithmic Recourse (AR) has largely focused on single individuals in a static environment: given some estimated model, the goal is to find valid counterfactuals for an individual instance that fulfill various desiderata. The ability of such counterfactuals to handle dynamics like data and model drift remains a largely unexplored research challenge. There has also been surprisingly little work on the related question of how the actual implementation of recourse by one individual may affect other individuals. Through this work, we aim to close that gap. We first show that many of the existing methodologies can be collectively described by a generalized framework. We then argue that the existing framework does not account for a hidden external cost of recourse, that only reveals itself when studying the endogenous dynamics of recourse at the group level. Through simulation experiments involving various state-of the-art counterfactual generators and several benchmark datasets, we generate large numbers of counterfactuals and study the resulting domain and model shifts. We find that the induced shifts are substantial enough to likely impede the applicability of Algorithmic Recourse in some situations. Fortunately, we find various strategies to mitigate these concerns. Our simulation framework for studying recourse dynamics is fast and opensourced.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google