Towards Neural Network based Cognitive Models of Dynamic Decision-Making by Humans

要約

動的な意思決定タスクにおける人間の認知プロセスをモデル化することは、AI における長年の取り組みであり、そのようなモデルは AI システムをより直感的でパーソナライズし、人間の偏見を軽減し、シミュレーションでのトレーニングを強化するのに役立つためです。
初期の研究の中には、ニューラル ネットワーク (および大規模な言語モデル) の利用を試みたものもありますが、多くの場合、すべての人間に共通の 1 つのモデルを想定し、人間の行動を集合的にエミュレートすることを目的としています。
ただし、各人間の行動は個別であり、不均一であり、特定のタスクにおける特定の過去の経験に依存しています。
たとえば、フィッシングメールに応答する 2 人の個人を考えてみましょう。以前に同様の脅威に遭遇して特定したことのある 1 人はすぐにそれを認識する可能性がありますが、そのような経験のないもう 1 人は詐欺に引っかかる可能性があります。
この研究では、人間の意思決定は過去に遭遇した同様の状況に基づいていると仮定するインスタンスベース学習 (IBL) に基づいて構築されています。
ただし、IBL は、過去の状況から現在の意思決定へのマッピングを取得するために、単純な固定形式の関数に依存しています。
そのために、動的設定における個別かつ異種の人間の意思決定をモデル化するオープンフォームの非線形関数を持つ 2 つの新しい注意ベースのニューラル ネットワーク モデルを提案します。
私たちは、人間を対象とした実験データから収集した 2 つの異なるデータセットを使用して実験します。1 つは人間によるフィッシングメールの検出に焦点を当てたもので、もう 1 つは人間がサイバーセキュリティ設定で攻撃者として行動し、攻撃オプションを決定するものです。
私たちは、2 つのニューラル ネットワーク モデル、IBL および GPT3.5 を使用して広範な実験を実施し、ニューラル ネットワーク モデルが人間の意思決定の表現において IBL を大幅に上回り、人間の意思決定については IBL と同様の解釈可能性を提供することを実証しました。
全体として、私たちの研究は、人間の意思決定の認知モデリングにおけるニューラル ネットワークのさらなる使用に有望な結果をもたらしています。

要約(オリジナル)

Modeling human cognitive processes in dynamic decision-making tasks has been an endeavor in AI for a long time because such models can help make AI systems more intuitive, personalized, mitigate any human biases, and enhance training in simulation. Some initial work has attempted to utilize neural networks (and large language models) but often assumes one common model for all humans and aims to emulate human behavior in aggregate. However, the behavior of each human is distinct, heterogeneous, and relies on specific past experiences in certain tasks. For instance, consider two individuals responding to a phishing email: one who has previously encountered and identified similar threats may recognize it quickly, while another without such experience might fall for the scam. In this work, we build on Instance Based Learning (IBL) that posits that human decisions are based on similar situations encountered in the past. However, IBL relies on simple fixed form functions to capture the mapping from past situations to current decisions. To that end, we propose two new attention-based neural network models to have open form non-linear functions to model distinct and heterogeneous human decision-making in dynamic settings. We experiment with two distinct datasets gathered from human subject experiment data, one focusing on detection of phishing email by humans and another where humans act as attackers in a cybersecurity setting and decide on an attack option. We conducted extensive experiments with our two neural network models, IBL, and GPT3.5, and demonstrate that the neural network models outperform IBL significantly in representing human decision-making, while providing similar interpretability of human decisions as IBL. Overall, our work yields promising results for further use of neural networks in cognitive modeling of human decision making.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google