Personalized Algorithmic Recourse with Preference Elicitation

要約

アルゴリズム リソース (AR) は、ユーザーが一度実行すると、望ましくない機械の決定を覆す一連のアクションを計算する問題です。
ユーザーが一連のアクションを実装するのに多大な労力を必要としないことが最も重要です。
しかし、AR へのほとんどのアプローチは、アクションのコストがすべてのユーザーに対して同じであることを前提としているため、特定のユーザーに対して不当に高価なリコース プランを推奨する可能性があります。
この観察をきっかけに、あらゆるエンドユーザーのニーズに合わせたパーソナライズされたアルゴリズム リソースを提供できる初の人間参加型アプローチである PEAR を紹介します。
PEAR は、ベイジアン選好抽出からの洞察に基づいて構築されており、ターゲット ユーザーに選択セットのクエリを尋ねることによって、アクションのコストの推定を繰り返し精緻化します。
クエリ自体は、コスト見積もりとユーザーの応答の両方の不確実性を考慮した情報利得の原則的な尺度である、選択の期待効用を最大化することによって計算されます。
PEAR は、モンテカルロ ツリー検索と組み合わせた強化学習エージェントに引き出しを統合し、有望なリソース プランを迅速に特定します。
実世界のデータセットに対する当社の実証的評価は、PEAR がわずか数回の反復で高品質のパーソナライズされたリソースをどのように生成するかを明らかにしています。

要約(オリジナル)

Algorithmic Recourse (AR) is the problem of computing a sequence of actions that — once performed by a user — overturns an undesirable machine decision. It is paramount that the sequence of actions does not require too much effort for users to implement. Yet, most approaches to AR assume that actions cost the same for all users, and thus may recommend unfairly expensive recourse plans to certain users. Prompted by this observation, we introduce PEAR, the first human-in-the-loop approach capable of providing personalized algorithmic recourse tailored to the needs of any end-user. PEAR builds on insights from Bayesian Preference Elicitation to iteratively refine an estimate of the costs of actions by asking choice set queries to the target user. The queries themselves are computed by maximizing the Expected Utility of Selection, a principled measure of information gain accounting for uncertainty on both the cost estimate and the user’s responses. PEAR integrates elicitation into a Reinforcement Learning agent coupled with Monte Carlo Tree Search to quickly identify promising recourse plans. Our empirical evaluation on real-world datasets highlights how PEAR produces high-quality personalized recourse in only a handful of iterations.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google