Neuro-Symbolic Procedural Planning with Commonsense Prompting

要約

手続き型計画は、複雑な高レベルの目標を、より単純な低レベルのステップに分解することによって実装することを目的としています。
手続き計画は日常生活における人間の基本的なスキルセットですが、手続きの因果関係を深く理解していない大規模言語モデル (LLM) にとっては依然として課題です。
以前の方法では、ゼロ ショット設定で LLM から手続き計画の知識を取得するために、手動の手本が必要でした。
ただし、LLM でそのような事前トレーニング済みの知識を引き出すと、目標とステップの間に誤った相関関係が誘導され、目に見えないタスクへのモデルの一般化が損なわれます。
対照的に、この論文は、常識を吹き込んだプロンプトでLLMから手続き計画の知識を引き出すニューロシンボリック手続きプランナー（PLAN）を提案します。
偽のゴールステップ相関を軽減するために、潜在的な手続き表現でシンボリック プログラム エグゼキュータを使用して、常識的な知識ベースからのプロンプトを構造的因果モデルへの因果的介入として形式化します。
WikiHow と RobotHow での自動評価と人間による評価の両方で、さらなるトレーニングや手動の手本を必要としない手順計画における PLAN の優位性が示されています。

要約(オリジナル)

Procedural planning aims to implement complex high-level goals by decomposition into sequential simpler low-level steps. Although procedural planning is a basic skill set for humans in daily life, it remains a challenge for large language models (LLMs) that lack a deep understanding of the cause-effect relations in procedures. Previous methods require manual exemplars to acquire procedural planning knowledge from LLMs in the zero-shot setting. However, such elicited pre-trained knowledge in LLMs induces spurious correlations between goals and steps, which impair the model generalization to unseen tasks. In contrast, this paper proposes a neuro-symbolic procedural PLANner (PLAN) that elicits procedural planning knowledge from the LLMs with commonsense-infused prompting. To mitigate spurious goal-step correlations, we use symbolic program executors on the latent procedural representations to formalize prompts from commonsense knowledge bases as a causal intervention toward the Structural Causal Model. Both automatic and human evaluations on WikiHow and RobotHow show the superiority of PLAN on procedural planning without further training or manual exemplars.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google