From DDMs to DNNs: Using process data and models of decision-making to improve human-AI interactions

要約

過去数十年にわたり、認知神経科学者や行動経済学者は、意思決定のプロセスを詳細に記述し、時間の経過に伴う意思決定の出現をモデル化することの価値を認識してきました。
たとえば、決定にかかる時間によって、決定そのものだけでなく、エージェントの本当の隠された好みが明らかになる可能性があります。
同様に、目の動きや神経記録など、進行中の意思決定プロセスを追跡するデータには、意思決定が行われていない場合でも悪用される可能性がある重要な情報が含まれています。
ここで我々は、人工知能（AI）研究は、時間の経過とともにどのように意思決定が現れるかについての洞察にさらに重点を置き、関連するプロセスデータを組み込んでAI予測全般、特に人間とAIの相互作用を改善することで恩恵を受けるだろうと主張する。
まず、ノイズの多い証拠の蓄積から意思決定が生まれると想定する、高度に確立された計算フレームワークを導入し、心理学、神経科学、経済学における関連する実証研究を紹介します。
次に、マルチエージェント AI における現在のアプローチが、プロセス データと意思決定モデルをどの程度組み込んでいるのか、組み込んでいないのかについて説明します。
最後に、AI のトレーニングと使用に証拠蓄積フレームワークをより原則的に組み込むことが、将来の人間と AI の相互作用の改善にどのように役立つかを概説します。

要約(オリジナル)

Over the past decades, cognitive neuroscientists and behavioral economists have recognized the value of describing the process of decision making in detail and modeling the emergence of decisions over time. For example, the time it takes to decide can reveal more about an agent’s true hidden preferences than only the decision itself. Similarly, data that track the ongoing decision process such as eye movements or neural recordings contain critical information that can be exploited, even if no decision is made. Here, we argue that artificial intelligence (AI) research would benefit from a stronger focus on insights about how decisions emerge over time and incorporate related process data to improve AI predictions in general and human-AI interactions in particular. First, we introduce a highly established computational framework that assumes decisions to emerge from the noisy accumulation of evidence, and we present related empirical work in psychology, neuroscience, and economics. Next, we discuss to what extent current approaches in multi-agent AI do or do not incorporate process data and models of decision making. Finally, we outline how a more principled inclusion of the evidence-accumulation framework into the training and use of AI can help to improve human-AI interactions in the future.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google