Towards Benchmarking and Assessing the Safety and Robustness of Autonomous Driving on Safety-critical Scenarios

要約

自律運転は、認識タスクのパフォーマンス改善やエンドツーエンドの自律駆動システムの開発など、学界と産業の両方で大きな進歩を遂げています。
ただし、自律運転の安全性と堅牢性評価は十分な注目を集めていません。
自律運転の現在の評価は、通常、自然駆動シナリオで行われます。
ただし、多くの事故は、安全性が批判的なシナリオとしても知られているエッジの場合にしばしば発生します。
これらの安全性が批判的なシナリオを収集することは困難であり、現在、安全性が批判的なシナリオを構成するものの明確な定義はありません。
この作業では、安全性の高いシナリオでの自律運転の安全性と堅牢性を探ります。
まず、敵対的な攻撃シナリオや自然分布の変化などの静的なトラフィックシナリオ、および事故シナリオなどの動的なトラフィックシナリオなど、安全性の高いシナリオの定義を提供します。
次に、自律的な運転安全試験プラットフォームを開発して、自律運転システムを包括的に評価し、知覚モジュールの評価だけでなく、システムレベルの評価も網羅しています。
当社の作業は、自律運転のための安全検証プロセスを体系的に構築し、業界が標準化されたテストフレームワークを確立し、実際の道路展開のリスクを削減するための技術サポートを提供します。

要約(オリジナル)

Autonomous driving has made significant progress in both academia and industry, including performance improvements in perception task and the development of end-to-end autonomous driving systems. However, the safety and robustness assessment of autonomous driving has not received sufficient attention. Current evaluations of autonomous driving are typically conducted in natural driving scenarios. However, many accidents often occur in edge cases, also known as safety-critical scenarios. These safety-critical scenarios are difficult to collect, and there is currently no clear definition of what constitutes a safety-critical scenario. In this work, we explore the safety and robustness of autonomous driving in safety-critical scenarios. First, we provide a definition of safety-critical scenarios, including static traffic scenarios such as adversarial attack scenarios and natural distribution shifts, as well as dynamic traffic scenarios such as accident scenarios. Then, we develop an autonomous driving safety testing platform to comprehensively evaluate autonomous driving systems, encompassing not only the assessment of perception modules but also system-level evaluations. Our work systematically constructs a safety verification process for autonomous driving, providing technical support for the industry to establish standardized test framework and reduce risks in real-world road deployment.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google