CogniDual Framework: Self-Training Large Language Models within a Dual-System Theoretical Framework for Improving Cognitive Tasks

要約

認知心理学では、知覚、注意、記憶、言語、問題解決、意思決定、推論を研究します。
カーネマンの二重システム理論は、人間の意思決定プロセスを解明し、迅速で直観的なシステム 1 と熟慮的で合理的なシステム 2 を区別します。最近の進歩により、大規模言語モデル (LLM) は、さまざまな認知能力において人間レベルの習熟度に近づく強力なツールとして位置づけられています。
タスク。
それにもかかわらず、LLM における人間の認知に類似した二重システム フレームワークの存在は未調査のままです。
この研究では、\textbf{CogniDual Framework for LLMs} (CFLLM) を導入します。このフレームワークは、LLM が自己訓練を通じて意図的な演繹から直観的な反応に進化できるかどうかを評価し、それによって新しい情報を取得して習得する人間のプロセスをエミュレートできるかどうかを評価するように設計されています。
私たちの発見は、LLMの反応生成の背後にある認知メカニズムを明らかにし、認知心理学におけるLLMの能力についての理解を深めます。
実際には、自己トレーニングされたモデルは特定のクエリに対してより高速な応答を提供し、推論中の計算要求を軽減できます。

要約(オリジナル)

Cognitive psychology investigates perception, attention, memory, language, problem-solving, decision-making, and reasoning. Kahneman’s dual-system theory elucidates the human decision-making process, distinguishing between the rapid, intuitive System 1 and the deliberative, rational System 2. Recent advancements have positioned large language Models (LLMs) as formidable tools nearing human-level proficiency in various cognitive tasks. Nonetheless, the presence of a dual-system framework analogous to human cognition in LLMs remains unexplored. This study introduces the \textbf{CogniDual Framework for LLMs} (CFLLMs), designed to assess whether LLMs can, through self-training, evolve from deliberate deduction to intuitive responses, thereby emulating the human process of acquiring and mastering new information. Our findings reveal the cognitive mechanisms behind LLMs’ response generation, enhancing our understanding of their capabilities in cognitive psychology. Practically, self-trained models can provide faster responses to certain queries, reducing computational demands during inference.

arxiv情報

著者 Yongxin Deng,Xihe Qiu,Xiaoyu Tan,Chao Qu,Jing Pan,Yuan Cheng,Yinghui Xu,Wei Chu
発行日 2024-09-05 09:33:24+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.CL パーマリンク