Heuristic Reasoning in AI: Instrumental Use and Mimetic Absorption

要約

人工知能 (AI) システムを論理エミュレータとしてのみ組み立てる従来の視点から逸脱して、我々はヒューリスティック推論の新しいプログラムを提案します。
私たちは、リソースと目的を一致させるためのヒューリスティックの「手段的」使用と、ヒューリスティックがランダムかつ普遍的に現れる「模倣吸収」を区別します。
古典的なリンダ問題のバリエーションや美人コンテスト ゲームの斬新な応用など、一連の革新的な実験を通じて、AI が徹底的な論理処理と実用化の間を移行する条件を形作る、精度の最大化と労力の削減の間のトレードオフを明らかにします。
認知的ショートカット (ヒューリスティック) の説明。
我々は、AIが、限界合理性と二重プロセス理論の古典的な理論で説明されているリソース合理的な人間の認知の原則と一致して、精度と効率の適応的なバランスを明らかにするという証拠を提供します。
私たちの調査結果は、AI が自己意識を持たずに設計されており、内省的な能力を欠いているにもかかわらず、リソースと目的の間のトレードオフが生物学的システム、特に人間の認知のエミュレーションにつながるという、AI の認知の微妙な全体像を明らかにしました。

要約(オリジナル)

Deviating from conventional perspectives that frame artificial intelligence (AI) systems solely as logic emulators, we propose a novel program of heuristic reasoning. We distinguish between the ‘instrumental’ use of heuristics to match resources with objectives, and ‘mimetic absorption,’ whereby heuristics manifest randomly and universally. Through a series of innovative experiments, including variations of the classic Linda problem and a novel application of the Beauty Contest game, we uncover trade-offs between maximizing accuracy and reducing effort that shape the conditions under which AIs transition between exhaustive logical processing and the use of cognitive shortcuts (heuristics). We provide evidence that AIs manifest an adaptive balancing of precision and efficiency, consistent with principles of resource-rational human cognition as explicated in classical theories of bounded rationality and dual-process theory. Our findings reveal a nuanced picture of AI cognition, where trade-offs between resources and objectives lead to the emulation of biological systems, especially human cognition, despite AIs being designed without a sense of self and lacking introspective capabilities.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google