Safety Implications of Explainable Artificial Intelligence in End-to-End Autonomous Driving

要約

エンドツーエンドの学習パイプラインは、主に深い学習の進歩、大規模なトレーニングデータセットの利用可能性、統合センサーデバイスの改善により、徐々に自律車両（AV）の進行中の開発にパラダイムシフトを徐々に作成しています。
ただし、現代の学習方法によるリアルタイムの決定における説明可能性の欠如は、ユーザーの信頼を妨げ、そのような車両の広範な展開と商業化を弱めます。
さらに、これらの車が交通事故に関与したり、引き起こしたりすると、問題は悪化します。
その結果、車両の自動化への信頼を築くためには、エンドツーエンドの自律運転の説明可能性が不可欠です。
そうは言っても、自動車の研究者は、エンドツーエンドの自律運転における説明の安全上の利点と結果の結果をまだ厳密に調査していません。
このペーパーは、これらのトピック間のギャップを埋めることを目的としており、次の研究質問に答えようとしています。エンドツーエンドの自律運転における説明の安全上の意味は何ですか？
この点で、最初に、エンドツーエンドの運転において、確立された安全性と説明可能性の概念を再検討します。
さらに、重要なケーススタディを提示し、運転の安全性を高める上での説明の極めて重要な役割を示しています。
最後に、経験的研究からの洞察を説明し、エンドツーエンドの運転の安全性に対する潜在的な影響に関する実用的な説明可能なAIメソッドの潜在的な価値、制限、および警告を明らかにします。

要約(オリジナル)

The end-to-end learning pipeline is gradually creating a paradigm shift in the ongoing development of highly autonomous vehicles (AVs), largely due to advances in deep learning, the availability of large-scale training datasets, and improvements in integrated sensor devices. However, a lack of explainability in real-time decisions with contemporary learning methods impedes user trust and attenuates the widespread deployment and commercialization of such vehicles. Moreover, the issue is exacerbated when these cars are involved in or cause traffic accidents. Consequently, explainability in end-to-end autonomous driving is essential to build trust in vehicular automation. With that said, automotive researchers have not yet rigorously explored safety benefits and consequences of explanations in end-to-end autonomous driving. This paper aims to bridge the gaps between these topics and seeks to answer the following research question: What are safety implications of explanations in end-to-end autonomous driving? In this regard, we first revisit established safety and explainability concepts in end-to-end driving. Furthermore, we present critical case studies and show the pivotal role of explanations in enhancing driving safety. Finally, we describe insights from empirical studies and reveal potential value, limitations, and caveats of practical explainable AI methods with respect to their potential impacts on safety of end-to-end driving.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google