Decoding AI’s Nudge: A Unified Framework to Predict Human Behavior in AI-assisted Decision Making

要約

AI ベースの意思決定支援の急速な発展に伴い、さまざまな形の AI 支援が人間の意思決定プロセスにますます統合されています。
人間の意思決定を最大限にサポートするには、さまざまな形の AI 支援が人間の意思決定行動にどのような影響を与えるかを定量的に理解することが不可欠です。
この目的を達成するために、現在の研究の多くは「ブラックボックス」モデルを使用した人間の行動のエンドツーエンドの予測に焦点を当てており、AI支援が人間の意思決定プロセスにどのような影響を与えるかの微妙な解釈が欠けていることがよくあります。
一方で、人間の行動予測の解釈可能性を優先する手法は、特定の形式の AI 支援に合わせて調整されることが多く、他の形式の支援への適応が困難になります。
この論文では、AI 支援による意思決定において、さまざまな形式の AI 支援が意思決定者に与える影響を解釈可能な特徴付けを提供できる計算フレームワークを提案します。
AI 支援を人間の意思決定プロセスにおける「{\em ナッジ}」として概念化することで、私たちのアプローチは、さまざまな形式の AI 支援が、意思決定を行う際にさまざまな情報を比較検討する際の人間の戦略をどのように変更するかをモデル化することに重点を置いています。
実際の人間の意思決定者から収集された行動データの評価では、提案されたフレームワークが、AI 支援の意思決定における人間の行動を正確に予測する際に、さまざまなベースラインよりも優れていることが示されています。
提案されたフレームワークに基づいて、さまざまな認知スタイルを持つ個人が AI 支援によってどのように異なる影響を受けるかについての洞察をさらに提供します。

要約(オリジナル)

With the rapid development of AI-based decision aids, different forms of AI assistance have been increasingly integrated into the human decision making processes. To best support humans in decision making, it is essential to quantitatively understand how diverse forms of AI assistance influence humans’ decision making behavior. To this end, much of the current research focuses on the end-to-end prediction of human behavior using “black-box” models, often lacking interpretations of the nuanced ways in which AI assistance impacts the human decision making process. Meanwhile, methods that prioritize the interpretability of human behavior predictions are often tailored for one specific form of AI assistance, making adaptations to other forms of assistance difficult. In this paper, we propose a computational framework that can provide an interpretable characterization of the influence of different forms of AI assistance on decision makers in AI-assisted decision making. By conceptualizing AI assistance as the “{\em nudge}” in human decision making processes, our approach centers around modelling how different forms of AI assistance modify humans’ strategy in weighing different information in making their decisions. Evaluations on behavior data collected from real human decision makers show that the proposed framework outperforms various baselines in accurately predicting human behavior in AI-assisted decision making. Based on the proposed framework, we further provide insights into how individuals with different cognitive styles are nudged by AI assistance differently.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google