Cognitive Map for Language Models: Optimal Planning via Verbally Representing the World Model

要約

言語モデルは、さまざまな自然言語処理タスクにわたって優れた機能を実証していますが、複数ステップのシミュレーションを必要とするタスクの計画には苦労しています。
この論文は、人間の認知プロセスに触発されて、特定の環境の認知マップを構築できる言語モデルの最適な計画能力を調査します。
私たちの実験は、認知マップが Gridworld の経路計画タスクにおける最適な計画生成能力と到達可能な計画生成能力の両方のパフォーマンスを大幅に向上させることを示しています。
私たちの方法は、人間の認知に似た 2 つの重要な特性を示していることがわかりました。\textbf{外挿された環境に対する計画能力の一般化と、限られたトレーニング データによる迅速な適応}。グリッドワールド タスクでの発見が、人間の認知プロセスのモデル化への洞察を提供することを願っています。
言語モデルは、人間の認知によく似た、より高度で堅牢なシステムの開発につながる可能性があります。

要約(オリジナル)

Language models have demonstrated impressive capabilities across various natural language processing tasks, yet they struggle with planning tasks requiring multi-step simulations. Inspired by human cognitive processes, this paper investigates the optimal planning power of language models that can construct a cognitive map of a given environment. Our experiments demonstrate that cognitive map significantly enhances the performance of both optimal and reachable planning generation ability in the Gridworld path planning task. We observe that our method showcases two key characteristics similar to human cognition: \textbf{generalization of its planning ability to extrapolated environments and rapid adaptation with limited training data.} We hope our findings in the Gridworld task provide insights into modeling human cognitive processes in language models, potentially leading to the development of more advanced and robust systems that better resemble human cognition.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google