Refining Diffusion Planner for Reliable Behavior Synthesis by Automatic Detection of Infeasible Plans

要約

拡散ベースの計画は、軌道拡散モデルをトレーニングし、補助誘導関数を使用してサンプリングされた軌道を調整することにより、長期にわたる報酬の少ないタスクにおいて有望な結果を示しています。
ただし、生成モデルとしての性質により、拡散モデルは実行可能な計画を生成することが保証されていないため、実行が失敗し、安全性が重要なアプリケーションでは計画作成者が役に立たなくなります。
この研究では、エラーが発生しやすい計画に改良ガイダンスを提供することで、拡散モデルによって生成された信頼性の低い計画を改良する新しいアプローチを提案します。
この目的を達成するために、普及モデルによって生成された個々の計画の品質を評価するための復元ギャップという新しい指標を提案します。
修復ギャップは、普及計画を改良するための修復ギャップ ガイダンスを生成するギャップ予測器によって推定されます。
さらに、次善のギャップ予測子から生成される可能性のある敵対的な調整ガイダンスを防ぐためのアトリビューション マップ レギュラーライザーを提示します。これにより、実行不可能な計画をさらに調整できるようになります。
長期的な計画を必要とするオフライン制御設定における 3 つの異なるベンチマークに対するアプローチの有効性を実証します。
また、ギャップ予測子の属性マップを提示し、エラーが発生しやすい遷移を強調表示することで、私たちのアプローチが説明可能性を示し、生成された計画をより深く理解できることも示します。

要約(オリジナル)

Diffusion-based planning has shown promising results in long-horizon, sparse-reward tasks by training trajectory diffusion models and conditioning the sampled trajectories using auxiliary guidance functions. However, due to their nature as generative models, diffusion models are not guaranteed to generate feasible plans, resulting in failed execution and precluding planners from being useful in safety-critical applications. In this work, we propose a novel approach to refine unreliable plans generated by diffusion models by providing refining guidance to error-prone plans. To this end, we suggest a new metric named restoration gap for evaluating the quality of individual plans generated by the diffusion model. A restoration gap is estimated by a gap predictor which produces restoration gap guidance to refine a diffusion planner. We additionally present an attribution map regularizer to prevent adversarial refining guidance that could be generated from the sub-optimal gap predictor, which enables further refinement of infeasible plans. We demonstrate the effectiveness of our approach on three different benchmarks in offline control settings that require long-horizon planning. We also illustrate that our approach presents explainability by presenting the attribution maps of the gap predictor and highlighting error-prone transitions, allowing for a deeper understanding of the generated plans.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google