Probabilistically Robust Recourse: Navigating the Trade-offs between Costs and Robustness in Algorithmic Recourse

要約

現実世界の状況で結果的な意思決定を行うために機械学習モデルがますます採用されるようになっているため、これらのモデルの予測によって悪影響を受ける（融資拒否など）個人に救済手段を提供することが重要になっています。
影響を受ける個人のためのリソースを構築するためにいくつかのアプローチが提案されていますが、これらの方法によって出力されるリソースは、低コスト (つまり、実装の容易さ) または小さな摂動に対する堅牢性 (つまり、リソースのノイズの多い実装) のいずれかを達成しますが、その両方が達成されるわけではありません。
リソースコストと堅牢性の間の固有のトレードオフに依存します。
さらに、従来のアプローチでは、前述のトレードオフを回避するための代理権がエンド ユーザーに提供されません。
この研究では、ユーザーがリソースコストと堅牢性のトレードオフを効果的に管理できるようにする最初のアルゴリズムフレームワークを提案することで、上記の課題に対処します。
より具体的には、当社のフレームワーク Probabilistically ROBust rEcourse (\texttt{PROBE}) を使用すると、リコースに小さな変更が加えられた場合、つまり、リコースがややノイズ的に実装された場合に、リコースが無効になる確率 (リコース無効化率) をユーザーが選択できます。
この目的を達成するために、我々は、達成された（結果として得られる）リコース無効化率と望ましいリコース無効化率との間のギャップを最小化し、リコースコストを最小限に抑え、また結果として得られるリコースが確実にモデル予測を確実に達成する新しい目的関数を提案する。
私たちは、特定のインスタンスに対応する求償権無効率を特徴付ける新しい理論的結果を開発します。
基礎となるモデルのさまざまなクラス (線形モデル、ツリーベースのモデルなど) を分析し、これらの結果を活用して、提案された目的を効率的に最適化します。
複数の実世界データセットを使用した実験評価により、提案されたフレームワークの有効性が実証されています。

要約(オリジナル)

As machine learning models are increasingly being employed to make consequential decisions in real-world settings, it becomes critical to ensure that individuals who are adversely impacted (e.g., loan denied) by the predictions of these models are provided with a means for recourse. While several approaches have been proposed to construct recourses for affected individuals, the recourses output by these methods either achieve low costs (i.e., ease-of-implementation) or robustness to small perturbations (i.e., noisy implementations of recourses), but not both due to the inherent trade-offs between the recourse costs and robustness. Furthermore, prior approaches do not provide end users with any agency over navigating the aforementioned trade-offs. In this work, we address the above challenges by proposing the first algorithmic framework which enables users to effectively manage the recourse cost vs. robustness trade-offs. More specifically, our framework Probabilistically ROBust rEcourse (\texttt{PROBE}) lets users choose the probability with which a recourse could get invalidated (recourse invalidation rate) if small changes are made to the recourse i.e., the recourse is implemented somewhat noisily. To this end, we propose a novel objective function which simultaneously minimizes the gap between the achieved (resulting) and desired recourse invalidation rates, minimizes recourse costs, and also ensures that the resulting recourse achieves a positive model prediction. We develop novel theoretical results to characterize the recourse invalidation rates corresponding to any given instance w.r.t. different classes of underlying models (e.g., linear models, tree based models etc.), and leverage these results to efficiently optimize the proposed objective. Experimental evaluation with multiple real world datasets demonstrates the efficacy of the proposed framework.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google