Setting the Right Expectations: Algorithmic Recourse Over Time

要約

アルゴリズム システムは、一か八かの意思決定を支援するためにしばしば求められます。
これを踏まえて、アルゴリズムシステムによってもたらされる望ましくない結果に対して個人が行動を起こせるという原則であるアルゴリズム的手段への注目が高まっています。
これまでのアルゴリズムによるリソースに関する文献の大部分は、主に単一の個人にリソースを提供する方法に焦点を当てており、継続的に変化するコンテキストの影響という重要な要素を見落としています。
求償権に対するこれらの影響を無視することは、重大な見落としである。なぜなら、ほとんどの場合、求償権は、個人が最初に不利な試みを行い、その後、状況によっては、1 回または数回の試みを行う機会が与えられることから構成されるからである。
変更されました。
これは、モデルのドリフトや個人間の好ましい結果へのアクセスをめぐる競争により、最初の救済策の推奨の信頼性が時間の経過とともに低下する可能性があるため、誤った期待を生み出す可能性があります。
この研究では、継続的に変化する環境がアルゴリズムに依存する影響を研究するためのエージェントベースのシミュレーション フレームワークを提案します。
特に、エージェントによって代表される個人に対する求償の信頼性を変える可能性のある 2 つの主な影響を特定します。(1) 求償に基づいて行動する他のエージェントとの競合、および (2) 環境に参入する新しいエージェントとの競合。
私たちの調査結果は、特定のパラメーター化の少数のセットのみが、長期にわたってエージェントにとって信頼できるアルゴリズムによる手段をもたらすことを強調しています。
したがって、長期にわたる求償権の信頼性を理解し、エージェントの努力に報いる求償方法を開発するには、かなりの追加の作業が必要であると私たちは主張します。

要約(オリジナル)

Algorithmic systems are often called upon to assist in high-stakes decision making. In light of this, algorithmic recourse, the principle wherein individuals should be able to take action against an undesirable outcome made by an algorithmic system, is receiving growing attention. The bulk of the literature on algorithmic recourse to-date focuses primarily on how to provide recourse to a single individual, overlooking a critical element: the effects of a continuously changing context. Disregarding these effects on recourse is a significant oversight, since, in almost all cases, recourse consists of an individual making a first, unfavorable attempt, and then being given an opportunity to make one or several attempts at a later date – when the context might have changed. This can create false expectations, as initial recourse recommendations may become less reliable over time due to model drift and competition for access to the favorable outcome between individuals. In this work we propose an agent-based simulation framework for studying the effects of a continuously changing environment on algorithmic recourse. In particular, we identify two main effects that can alter the reliability of recourse for individuals represented by the agents: (1) competition with other agents acting upon recourse, and (2) competition with new agents entering the environment. Our findings highlight that only a small set of specific parameterizations result in algorithmic recourse that is reliable for agents over time. Consequently, we argue that substantial additional work is needed to understand recourse reliability over time, and to develop recourse methods that reward agents’ effort.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google