Failure Detection for Motion Prediction of Autonomous Driving: An Uncertainty Perspective

要約

安全で効率的な自動運転には動作予測が不可欠です。
ただし、複雑な人工知能モデルの説明不可能性と不確実性により、動き予測モジュールの予測不能な障害が発生する可能性があり、システムが安全でない決定を下すよう誤解を招く可能性があります。
したがって、信頼性の高い自動運転を保証する方法を開発する必要があり、故障検出が潜在的な方向性となります。
不確実性の推定値は、モデルの予測における信頼度を定量化するために使用でき、故障の検出に役立つ場合があります。
我々は、動きの不確実性とモデルの不確実性の両方を考慮して、不確実性の観点から動き予測のための故障検出のフレームワークを提案し、異なる予測段階に応じてさまざまな不確実性スコアを定式化します。
提案されたアプローチは、さまざまな動き予測アルゴリズム、不確実性推定方法、不確実性スコアなどに基づいて評価され、その結果は、不確実性は動き予測の失敗検出に有望であるが、注意して使用する必要があることを示しています。

要約(オリジナル)

Motion prediction is essential for safe and efficient autonomous driving. However, the inexplicability and uncertainty of complex artificial intelligence models may lead to unpredictable failures of the motion prediction module, which may mislead the system to make unsafe decisions. Therefore, it is necessary to develop methods to guarantee reliable autonomous driving, where failure detection is a potential direction. Uncertainty estimates can be used to quantify the degree of confidence a model has in its predictions and may be valuable for failure detection. We propose a framework of failure detection for motion prediction from the uncertainty perspective, considering both motion uncertainty and model uncertainty, and formulate various uncertainty scores according to different prediction stages. The proposed approach is evaluated based on different motion prediction algorithms, uncertainty estimation methods, uncertainty scores, etc., and the results show that uncertainty is promising for failure detection for motion prediction but should be used with caution.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google