SayCanPay: Heuristic Planning with Large Language Models using Learnable Domain Knowledge

要約

大規模言語モデル (LLM) は、その膨大な「世界知識」により、優れた計画能力を実証してきました。
しかし、最近の進歩にもかかわらず、実行可能（アフォーダンスに基づく）と費用対効果の高い（計画の長さの点で）両方の計画を取得することは依然として課題です。
これは、ドメイン知識 (PDDL などのアクション モデルで形式化された) とヒューリスティック検索を使用して、実行可能な最適な計画を生成するヒューリスティックな計画手法とは対照的です。
これに触発されて、私たちは LLM の世界的な知識とヒューリスティック検索の原則を活用して、LLM とヒューリスティック プランニングの力を組み合わせることを提案します。
私たちのアプローチである SayCanPay は、LLM を採用して、学習可能なドメイン知識に基づいてアクション (Say) を生成し、アクションの実現可能性 (Can) と長期的な報酬/見返り (Pay) を評価し、ヒューリスティック検索を使用して最適なアクションのシーケンスを選択します。
私たちの貢献は、(1) ヒューリスティック計画のコンテキストにおける LLM 計画問題の新しい枠組み、(2) 生成された計画への基礎とコスト効率の高い要素の統合、および (3) アクションに対するヒューリスティック検索の使用です。
私たちの広範な評価により、私たちのモデルが他の LLM 計画アプローチを上回っていることが示されています。

要約(オリジナル)

Large Language Models (LLMs) have demonstrated impressive planning abilities due to their vast ‘world knowledge’. Yet, obtaining plans that are both feasible (grounded in affordances) and cost-effective (in plan length), remains a challenge, despite recent progress. This contrasts with heuristic planning methods that employ domain knowledge (formalized in action models such as PDDL) and heuristic search to generate feasible, optimal plans. Inspired by this, we propose to combine the power of LLMs and heuristic planning by leveraging the world knowledge of LLMs and the principles of heuristic search. Our approach, SayCanPay, employs LLMs to generate actions (Say) guided by learnable domain knowledge, that evaluates actions’ feasibility (Can) and long-term reward/payoff (Pay), and heuristic search to select the best sequence of actions. Our contributions are (1) a novel framing of the LLM planning problem in the context of heuristic planning, (2) integrating grounding and cost-effective elements into the generated plans, and (3) using heuristic search over actions. Our extensive evaluations show that our model surpasses other LLM planning approaches.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google