Closing the Loop on Runtime Monitors with Fallback-Safe MPC

要約

ロボットの認識のために深層学習されたモデルに依存する場合、これらのモデルはトレーニング データと異なる入力に対して信頼性の低い動作をし、閉ループ システムの安全性が損なわれる可能性があることを認識する必要があります。
これは、知覚システムの信頼性をどのように評価できるか、また、外部環境の変化によって知覚モデルのパフォーマンスが低下した場合に、どの程度まで安全を守る措置を講じることができるかという根本的な疑問を引き起こします。
したがって、我々は、新しい状況に導入された知覚対応システムの安全性を証明するためのフレームワークを提示します。
そのために、ロバストなモデル予測制御 (MPC) を活用し、知覚システムに依存しない安全性を維持するフォールバック プランの実現可能性を維持しながら、知覚推定を使用してシステムを制御します。
さらに、最近提案された等角予測技術を使用してランタイム モニターを校正し、MPC コントローラーの許容範囲を超えて知覚システムが劣化したときを確実に検出し、エンドツーエンドの安全性を保証します。
この制御フレームワークとキャリブレーション手法により、写真のようにリアルな航空機タキシング シミュレーターに新しいコンテキストを展開する場合に、知覚ネットワークの再トレーニングに必要なサンプル数よりも桁違いに少ないサンプルでシステムの安全性を認証できることを示します。
さらに、クアッドローターのシミュレートされた例で MPC の安全保持動作を説明します。
私たちはシミュレーション プラットフォームをオープンソース化しており、プロジェクト ページ \url{https://tinyurl.com/fallback-safe-mpc} で結果のビデオを提供しています。

要約(オリジナル)

When we rely on deep-learned models for robotic perception, we must recognize that these models may behave unreliably on inputs dissimilar from the training data, compromising the closed-loop system’s safety. This raises fundamental questions on how we can assess confidence in perception systems and to what extent we can take safety-preserving actions when external environmental changes degrade our perception model’s performance. Therefore, we present a framework to certify the safety of a perception-enabled system deployed in novel contexts. To do so, we leverage robust model predictive control (MPC) to control the system using the perception estimates while maintaining the feasibility of a safety-preserving fallback plan that does not rely on the perception system. In addition, we calibrate a runtime monitor using recently proposed conformal prediction techniques to certifiably detect when the perception system degrades beyond the tolerance of the MPC controller, resulting in an end-to-end safety assurance. We show that this control framework and calibration technique allows us to certify the system’s safety with orders of magnitudes fewer samples than required to retrain the perception network when we deploy in a novel context on a photo-realistic aircraft taxiing simulator. Furthermore, we illustrate the safety-preserving behavior of the MPC on simulated examples of a quadrotor. We open-source our simulation platform and provide videos of our results at our project page: \url{https://tinyurl.com/fallback-safe-mpc}.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google