Generalizing Safety Beyond Collision-Avoidance via Latent-Space Reachability Analysis

要約

Hamilton-Jacobi（HJ）Reachabilityは、ロボットが危険な状態を同時に検出し、将来の障害を防ぐアクションを生成できるようにする厳格な数学的枠組みです。
理論的には、HJの到達可能性は、非線形システムと非コンベックス制約の安全なコントローラーを合成することができますが、実際には、低次元の状態空間表現と第一派のダイナミクスを介してモデル化された手工学の衝突回避制約に限定されています。
この作業では、私たちの目標は、安全なロボットコントローラーを一般化して、不可能ではないにしても、手作業で書き留めるのを防ぐために、高次元の観測から直感的に識別できることです。たとえば、の内容をこぼすことです。
バッグ。
潜在的な安全フィルターは、ジェネレーティブワールドモデルの潜在的な埋め込み空間で安全分析を実行することにより、生の観測データ（たとえば、RGB画像）に直接作用するHJリーチ性の潜在スペースの一般化であることを提案します。
これにより、微妙な制約仕様が潜在空間の分類問題に変換され、シミュレートが難しい動的な結果について推論することができます。
シミュレーションおよびハードウェアの実験では、潜在的な安全フィルターを使用して、フランカの研究3マニピュレーターがバッグの内容をこぼしたり、乱雑なオブジェクトを散布するのを防ぐなど、複雑な安全上の危険からarbitrary意的なポリシー（生成ポリシーから遠隔術まで）を保護します。

要約(オリジナル)

Hamilton-Jacobi (HJ) reachability is a rigorous mathematical framework that enables robots to simultaneously detect unsafe states and generate actions that prevent future failures. While in theory, HJ reachability can synthesize safe controllers for nonlinear systems and nonconvex constraints, in practice, it has been limited to hand-engineered collision-avoidance constraints modeled via low-dimensional state-space representations and first-principles dynamics. In this work, our goal is to generalize safe robot controllers to prevent failures that are hard — if not impossible — to write down by hand, but can be intuitively identified from high-dimensional observations: for example, spilling the contents of a bag. We propose Latent Safety Filters, a latent-space generalization of HJ reachability that tractably operates directly on raw observation data (e.g., RGB images) by performing safety analysis in the latent embedding space of a generative world model. This transforms nuanced constraint specification to a classification problem in latent space and enables reasoning about dynamical consequences that are hard to simulate. In simulation and hardware experiments, we use Latent Safety Filters to safeguard arbitrary policies (from generative policies to direct teleoperation) from complex safety hazards, like preventing a Franka Research 3 manipulator from spilling the contents of a bag or toppling cluttered objects.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google