Exploring the Causality of End-to-End Autonomous Driving

要約

深層学習ベースのモデルは、自動運転分野、特に注目を集めているエンドツーエンド ソリューションに広く導入されています。
しかし、これらのモデルのブラックボックス特性により、自動運転の信頼性と安全性について懸念が生じており、因果関係をどのようにデバッグするかが喫緊の課題となっています。
自動運転の説明可能性に関する既存の研究はいくつかありますが、現時点では、研究者がエンドツーエンドの自動運転の最終予測動作につながる重要な要素をデバッグして特定するのに役立つ体系的なソリューションはありません。
この研究では、エンドツーエンドの自動運転の因果関係を調査および分析するための包括的なアプローチを提案します。
まず、定性分析のための制御変数と反事実的介入を使用して、最終計画が依存する重要な情報を検証します。
次に、主要なモデル入力の応答を視覚化し統計的に分析することで、モデルの決定に影響を与える要因を定量的に評価します。
最後に、多要素のエンドツーエンド自動運転システムの包括的な研究に基づいて、強力なベースラインと、クローズループ シミュレーター CARLA で因果関係を調査するためのツールを開発しました。
重要な入力ソースを活用して適切に設計されたモデルを取得し、競争力の高い機能を実現します。
私たちが知る限り、私たちの研究は、エンドツーエンドの自動運転の謎を明らかにし、ブラックボックスをホワイトボックスに変える最初のものです。
徹底的なクローズループ実験により、私たちの方法が因果関係のデバッグのためのエンドツーエンドの自動運転ソリューションに適用できることが実証されています。
コードは https://github.com/bdvisl/DriveInsight で入手できます。

要約(オリジナル)

Deep learning-based models are widely deployed in autonomous driving areas, especially the increasingly noticed end-to-end solutions. However, the black-box property of these models raises concerns about their trustworthiness and safety for autonomous driving, and how to debug the causality has become a pressing concern. Despite some existing research on the explainability of autonomous driving, there is currently no systematic solution to help researchers debug and identify the key factors that lead to the final predicted action of end-to-end autonomous driving. In this work, we propose a comprehensive approach to explore and analyze the causality of end-to-end autonomous driving. First, we validate the essential information that the final planning depends on by using controlled variables and counterfactual interventions for qualitative analysis. Then, we quantitatively assess the factors influencing model decisions by visualizing and statistically analyzing the response of key model inputs. Finally, based on the comprehensive study of the multi-factorial end-to-end autonomous driving system, we have developed a strong baseline and a tool for exploring causality in the close-loop simulator CARLA. It leverages the essential input sources to obtain a well-designed model, resulting in highly competitive capabilities. As far as we know, our work is the first to unveil the mystery of end-to-end autonomous driving and turn the black box into a white one. Thorough close-loop experiments demonstrate that our method can be applied to end-to-end autonomous driving solutions for causality debugging. Code will be available at https://github.com/bdvisl/DriveInsight.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google