Learning When to Advise Human Decision Makers

要約

人工知能（AI）システムは、医療、刑事司法、金融などの幅広い領域において、人間の意思決定を促進するためのアドバイスを提供するために使用されるようになってきている。この論文では、アルゴリズムによるアドバイスが意思決定パイプラインの一定の要素として人間のユーザーに提供される現在の実践の限界に動機づけられ、アルゴリズムがアドバイスを提供するのはどのような場合であるべきかという疑問を提起する。我々は、アルゴリズムが人間のユーザーと双方向で対話し、ユーザーの意思決定に有益と思われる場合にのみアドバイスを提供することを目的とした、AIシステムの新しい設計を提案する。大規模な実験の結果、我々の助言アプローチは、固定的で非対話的な助言アプローチと比較して、必要な時に助言を提供し、人間の意思決定を大幅に改善することに成功していることが示された。このアプローチは、人間の学習を促進し、人間の意思決定者の補完的な長所を保持し、アドバイスに対するより積極的な反応を導くというさらなる利点がある。

要約(オリジナル)

Artificial intelligence (AI) systems are increasingly used for providing advice to facilitate human decision making in a wide range of domains, such as healthcare, criminal justice, and finance. Motivated by limitations of the current practice where algorithmic advice is provided to human users as a constant element in the decision-making pipeline, in this paper we raise the question of when should algorithms provide advice? We propose a novel design of AI systems in which the algorithm interacts with the human user in a two-sided manner and aims to provide advice only when it is likely to be beneficial for the user in making their decision. The results of a large-scale experiment show that our advising approach manages to provide advice at times of need and to significantly improve human decision making compared to fixed, non-interactive, advising approaches. This approach has additional advantages in facilitating human learning, preserving complementary strengths of human decision makers, and leading to more positive responsiveness to the advice.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL