Algorithmic Decision-Making under Agents with Persistent Improvement

要約

この論文は、人間の戦略的行動の下でのアルゴリズムによる意思決定を研究します。意思決定者はアルゴリズムを使用して人間のエージェントに関する決定を行い、アルゴリズムに関する情報を持つ後者は戦略的に努力し、有利な決定を受け取るために改善する可能性があります。
エージェントがその努力からすぐに恩恵を受けることを想定したこれまでの研究とは異なり、私たちはこれらの努力の影響が永続的であり、エージェントが段階的に改善することによって努力から利益を受けるという現実的なシナリオを検討します。
まず、永続的な改善を特徴付ける動的モデルを開発し、これに基づいてエージェントと意思決定者の間の相互作用をモデル化するシュタッケルベルグ ゲームを構築します。
私たちは均衡戦略を分析的に特徴付け、エージェントが改善するインセンティブを持つ条件を特定します。
次に、このダイナミクスを利用して、意思決定者がエージェント集団内で最大の改善を促す最適なポリシーをどのように設計できるかを研究します。
また、このモデルを、1) エージェントが不正である可能性があり、有利ではあるが誤った決定を下すようにアルゴリズムを操作する場合の設定にも拡張します。
2) 正直な努力は忘れられやすく、継続的な改善を保証するには十分ではありません。
拡張モデルを使用して、エージェントが不誠実な行動よりも正直な取り組みを好む条件と、忘れがちな取り組みの影響をさらに調査します。

要約(オリジナル)

This paper studies algorithmic decision-making under human’s strategic behavior, where a decision maker uses an algorithm to make decisions about human agents, and the latter with information about the algorithm may exert effort strategically and improve to receive favorable decisions. Unlike prior works that assume agents benefit from their efforts immediately, we consider realistic scenarios where the impacts of these efforts are persistent and agents benefit from efforts by making improvements gradually. We first develop a dynamic model to characterize persistent improvements and based on this construct a Stackelberg game to model the interplay between agents and the decision-maker. We analytically characterize the equilibrium strategies and identify conditions under which agents have incentives to improve. With the dynamics, we then study how the decision-maker can design an optimal policy to incentivize the largest improvements inside the agent population. We also extend the model to settings where 1) agents may be dishonest and game the algorithm into making favorable but erroneous decisions; 2) honest efforts are forgettable and not sufficient to guarantee persistent improvements. With the extended models, we further examine conditions under which agents prefer honest efforts over dishonest behavior and the impacts of forgettable efforts.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google