SafeDiffuser: Safe Planning with Diffusion Probabilistic Models

要約

拡散モデルベースのアプローチは、データ駆動型計画において有望であることが示されていますが、安全性の保証がないため、安全性が重要なアプリケーションに適用するのは困難です。
これらの課題に対処するために、制御バリア関数のクラスを使用して拡散確率モデルが仕様を満たすことを保証する、SafeDiffuser と呼ばれる新しい方法を提案します。
私たちのアプローチの重要なアイデアは、提案された有限時間拡散不変性をノイズ除去拡散手順に埋め込むことです。これにより、信頼できる拡散データの生成が可能になります。
さらに、生成モデルによる有限時間拡散不変法が汎化性能を維持するだけでなく、安全なデータ生成における堅牢性も生み出すことを実証します。
私たちは、迷路経路の生成、脚式ロボットの移動、3D 空間操作などの一連の安全な計画タスクでメソッドをテストし、その結果、バニラの拡散モデルに比べて堅牢性と保証の利点が示されました。

要約(オリジナル)

Diffusion model-based approaches have shown promise in data-driven planning, but there are no safety guarantees, thus making it hard to be applied for safety-critical applications. To address these challenges, we propose a new method, called SafeDiffuser, to ensure diffusion probabilistic models satisfy specifications by using a class of control barrier functions. The key idea of our approach is to embed the proposed finite-time diffusion invariance into the denoising diffusion procedure, which enables trustworthy diffusion data generation. Moreover, we demonstrate that our finite-time diffusion invariance method through generative models not only maintains generalization performance but also creates robustness in safe data generation. We test our method on a series of safe planning tasks, including maze path generation, legged robot locomotion, and 3D space manipulation, with results showing the advantages of robustness and guarantees over vanilla diffusion models.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google