要約
プリンシパルは、バイナリ状態の公的に観察可能な予測を生成するアルゴリズムを設計します。
彼女は、予測に基づいて直接行動するか、それとも個人情報を持っているが不一致の可能性があるエージェントに決定を委任するかを決定する必要があります。
このような環境における予測アルゴリズムと委任ルールの最適設計を検討します。
3 つの重要な発見が明らかになります。 (1) 委任は、プリンシパルがエージェントの情報を観察した場合にエージェントと同じ二者決定を下す場合に限り、最適です。
(2) プリンシパルがアルゴリズムの予測に基づいて行動できる場合でも、最も有益なアルゴリズムを提供することは最適ではない可能性があります。
代わりに、最適なアルゴリズムは、1 つの状態に関するより多くの情報を提供し、もう 1 つの状態に関する情報を制限する場合があります。
(3) 「人間参加型」を維持したり、最大限の予測精度を要求したりするなど、より多くの情報を提供することを目的とした善意のポリシーは、人間による支援やアルゴリズムによる支援がないシステムと比較して、意思決定の品質を厳密に悪化させる可能性があります。
これらの調査結果は、アルゴリズムと人間の意思決定者の間で共通の好みの不一致を緩和するための対策が講じられない場合、人間と機械のコラボレーションのパフォーマンスが低下することを予測しています。
要約(オリジナル)
A principal designs an algorithm that generates a publicly observable prediction of a binary state. She must decide whether to act directly based on the prediction or to delegate the decision to an agent with private information but potential misalignment. We study the optimal design of the prediction algorithm and the delegation rule in such environments. Three key findings emerge: (1) Delegation is optimal if and only if the principal would make the same binary decision as the agent had she observed the agent’s information. (2) Providing the most informative algorithm may be suboptimal even if the principal can act on the algorithm’s prediction. Instead, the optimal algorithm may provide more information about one state and restrict information about the other. (3) Well-intentioned policies aiming to provide more information, such as keeping a ‘human-in-the-loop’ or requiring maximal prediction accuracy, could strictly worsen decision quality compared to systems with no human or no algorithmic assistance. These findings predict the underperformance of human-machine collaborations if no measures are taken to mitigate common preference misalignment between algorithms and human decision-makers.
arxiv情報
| 著者 | Ruqing Xu |
| 発行日 | 2024-02-21 18:01:48+00:00 |
| arxivサイト | arxiv_id(pdf) |
提供元, 利用サービス
arxiv.jp, Google