Diffusion-Based Failure Sampling for Evaluating Safety-Critical Autonomous Systems

要約

ロボット工学などの高次元ドメインでの安全性クリティカルな自律システムの検証は、重要な課題を提示します。
マルコフチェーンモンテカルロに基づいた既存のブラックボックスアプローチには、膨大な数のサンプルが必要になる場合がありますが、重要性のサンプリングに基づく方法は、障害の分布を表すのに苦労する可能性のある単純なパラメトリックファミリに依存することがよくあります。
条件付き除去拡散モデルを使用して、障害の分布をサンプリングすることを提案します。これは、ロボットタスク計画などの複雑な高次元問題で成功を示しています。
拡散モデルを繰り返しトレーニングして、障害に近い状態の軌跡を生成します。
高次元のロボット検証タスクに対するアプローチの有効性を実証し、既存のブラックボックス技術と比較してサンプルの効率とモードカバレッジを改善します。

要約(オリジナル)

Validating safety-critical autonomous systems in high-dimensional domains such as robotics presents a significant challenge. Existing black-box approaches based on Markov chain Monte Carlo may require an enormous number of samples, while methods based on importance sampling often rely on simple parametric families that may struggle to represent the distribution over failures. We propose to sample the distribution over failures using a conditional denoising diffusion model, which has shown success in complex high-dimensional problems such as robotic task planning. We iteratively train a diffusion model to produce state trajectories closer to failure. We demonstrate the effectiveness of our approach on high-dimensional robotic validation tasks, improving sample efficiency and mode coverage compared to existing black-box techniques.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google