A Counterfactual Safety Margin Perspective on the Scoring of Autonomous Vehicles’ Riskiness

要約

自動運転車（AV）は、交通事故の減少や全体的な輸送効率の向上など、多くの社会的利益をもたらす可能性があります。
しかし、過去のデータが不足していることとテクノロジーが急速に進化していることにより、AV に関連するリスクを定量化することは困難です。
この論文では、道路利用者の「不正行為」に関する反事実シミュレーションに基づいて、さまざまな運用設計ドメイン (ODD) におけるさまざまな AV の行動のリスクを比較するためのデータ駆動型フレームワークを紹介します。
衝突につながる可能性のある通常の動作からの最小逸脱を表す、反事実的な安全マージンの概念を導入します。
この概念は、最も重要なシナリオを見つけるだけでなく、AV のリスクの頻度と重大度を評価するのにも役立ちます。
我々は、最悪ケースと最良ケースの分析を通じて、AV の行動ポリシーが不明な場合でも、提案された方法論が適用可能であることを示し、この方法が外部のサードパーティのリスク評価者にとっても有用になることを示します。
私たちの実験結果は、安全マージン、運転ポリシーの品質、およびさまざまな AV プロバイダーに関連する相対リスクを明らかにする ODD の間の相関関係を示しています。
この研究は AV の安全性評価に貢献し、この新たなテクノロジーを取り巻く法律や保険の問題に対処するのに役立ちます。

要約(オリジナル)

Autonomous Vehicles (AVs) have the potential to provide numerous societal benefits, such as decreased road accidents and increased overall transportation efficiency. However, quantifying the risk associated with AVs is challenging due to the lack of historical data and the rapidly evolving technology. This paper presents a data-driven framework for comparing the risk of different AVs’ behaviors in various operational design domains (ODDs), based on counterfactual simulations of ‘misbehaving’ road users. We introduce the concept of counterfactual safety margin, which represents the minimum deviation from normal behavior that could lead to a collision. This concept helps to find the most critical scenarios but also to assess the frequency and severity of risk of AVs. We show that the proposed methodology is applicable even when the AV’s behavioral policy is unknown — through worst- and best-case analyses — making the method useful also to external third-party risk assessors. Our experimental results demonstrate the correlation between the safety margin, the driving policy quality, and the ODD shedding light on the relative risk associated with different AV providers. This work contributes to AV safety assessment and aids in addressing legislative and insurance concerns surrounding this emerging technology.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google