Reputational Algorithm Aversion

要約

人々はアルゴリズムによって生成された情報を意思決定に組み込むことに消極的であることが多く、これは「アルゴリズム嫌悪」と呼ばれる現象です。
この論文は、アルゴリズムに従うという選択が人間の能力に関する情報を伝える場合に、アルゴリズム嫌悪感がどのように生じるかを示しています。
私は、従業員が自分の個人情報とアルゴリズムの信号に基づいてランダムな結果を予測するモデルを開発しました。
低スキルの労働者はアルゴリズムよりも悪い情報を受け取るため、常にアルゴリズムのシグナルに従う必要がありますが、高スキルの労働者はアルゴリズムよりも良い情報を受け取るため、場合によってはアルゴリズムをオーバーライドする必要があります。
ただし、風評上の懸念により、スキルの低い従業員は非効率的にアルゴリズムをオーバーライドして、スキルが高いと認識される可能性が高くなります。
このモデルは、AI システムが多くの種類の労働者を置き換えるという広範な懸念と一致する、アルゴリズム嫌悪に対する完全に合理的な微小基盤を提供します。

要約(オリジナル)

People are often reluctant to incorporate information produced by algorithms into their decisions, a phenomenon called ‘algorithm aversion’. This paper shows how algorithm aversion arises when the choice to follow an algorithm conveys information about a human’s ability. I develop a model in which workers make forecasts of a random outcome based on their own private information and an algorithm’s signal. Low-skill workers receive worse information than the algorithm and hence should always follow the algorithm’s signal, while high-skill workers receive better information than the algorithm and should sometimes override it. However, due to reputational concerns, low-skill workers inefficiently override the algorithm to increase the likelihood they are perceived as high-skill. The model provides a fully rational microfoundation for algorithm aversion that aligns with the broad concern that AI systems will displace many types of workers.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google