Out-of-Distribution Runtime Adaptation with Conformalized Neural Network Ensembles

要約

ニューラル ネットワーク軌道予測器のリアルタイム分布外 (OOD) 検出を統合し、ロボット (自動運転車やドローンなど) の制御戦略を適応させて動作中の安全を確保する方法を紹介します。
OOD 体制。
具体的には、ニューラル ネットワーク アンサンブルを使用して動的障害物 (歩行者など) の軌道を予測し、アンサンブル間の経験的共分散の最大特異値を OOD 検出の信号として使用します。
この信号を、等角予測の方法論を使用して保持されたトレーニング データのごく一部で校正し、ユーザーが指定した信頼レベルを前提として、検出器の偽陽性率を確率的に保証する OOD 検出器を導出します。
分散動作中は、MPC コントローラーを使用して、ニューラル ネットワーク アンサンブルによって予測された軌道に基づいて障害物との衝突を回避します。
OOD 状態が検出されると、到達可能性ベースのコントローラーに切り替えて、障害物の最悪の動作下での安全性を保証します。
私たちは、横断歩道シナリオにおける広範な自動運転シミュレーションでこの方法を検証し、OOD 検出器が理論的に予測された範囲内で望ましい精度率を取得していることを示しました。
また、実際の歩行者のデータを使用してこの方法の有効性を実証します。
同様に等角予測を使用するが、OOD 適応を使用しない 2 つの最先端の方法と比較して、安全性が向上し、保守性が低下することを示します。

要約(オリジナル)

We present a method to integrate real-time out-of-distribution (OOD) detection for neural network trajectory predictors, and to adapt the control strategy of a robot (e.g., a self-driving car or drone) to preserve safety while operating in OOD regimes. Specifically, we use a neural network ensemble to predict the trajectory for a dynamic obstacle (such as a pedestrian), and use the maximum singular value of the empirical covariance among the ensemble as a signal for OOD detection. We calibrate this signal with a small fraction of held-out training data using the methodology of conformal prediction, to derive an OOD detector with probabilistic guarantees on the false-positive rate of the detector, given a user-specified confidence level. During in-distribution operation, we use an MPC controller to avoid collisions with the obstacle based on the trajectory predicted by the neural network ensemble. When OOD conditions are detected, we switch to a reachability-based controller to guarantee safety under the worst-case actions of the obstacle. We verify our method in extensive autonomous driving simulations in a pedestrian crossing scenario, showing that our OOD detector obtains the desired accuracy rate within a theoretically-predicted range. We also demonstrate the effectiveness of our method with real pedestrian data. We show improved safety and less conservatism in comparison with two state-of-the-art methods that also use conformal prediction, but without OOD adaptation.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google