ReMAV: Reward Modeling of Autonomous Vehicles for Finding Likely Failure Events

要約

自動運転車は高度な運転システムであり、さまざまな敵対的な攻撃に対して脆弱であり、車両の安全性が損なわれ、他の道路利用者に危険をもたらすことがよく知られています。
環境と対話して複雑な敵を積極的に訓練するのではなく、まず自動運転車が自信を持っていないことが判明した状態のみをインテリジェントに見つけて、探索スペースを縮小する必要があります。
この論文では、最初にオフライン軌道を使用して自動運転車の既存の動作を分析し、故障イベントの確率を見つけるための適切なしきい値を決定するブラックボックス テスト フレームワーク ReMAV を提案します。
この目的を達成するために、i) テスト対象の自律走行車のオフライン状態アクションのペアを使用し、ii) 設計された報酬モデリング技術を使用して抽象的な動作表現を構築し、不確実な運転決定のある状態を分析する、iii) という 3 段階の方法論を導入します。
は、運転判断に自信がない場合の最小限の摂動攻撃に外乱モデルを使用します。
私たちの報酬モデリング技術は、標準的な自律走行車が良好に動作する場合でも、不確実な動作の可能性が高い領域を強調表示できる動作表現の作成に役立ちます。
私たちは、単一および複数のエージェントのインタラクションを含む 3 つの異なる運転シナリオを使用して、忠実度の高い都市部の運転環境で実験を実行しました。
私たちの実験では、テスト対象の自律走行車による車両衝突、路上物体衝突、歩行者衝突、オフロードステアリングイベントの発生がそれぞれ35、23、48、50%増加し、故障イベントが大幅に増加していることが実証されました。
ReMAV を 2 つのベースラインと比較し、すべての評価指標において、ReMAV がベースラインと比較して障害イベントの生成において大幅に優れた有効性を示していることを示します。

要約(オリジナル)

Autonomous vehicles are advanced driving systems that are well known to be vulnerable to various adversarial attacks, compromising vehicle safety and posing a risk to other road users. Rather than actively training complex adversaries by interacting with the environment, there is a need to first intelligently find and reduce the search space to only those states where autonomous vehicles are found to be less confident. In this paper, we propose a black-box testing framework ReMAV that uses offline trajectories first to analyze the existing behavior of autonomous vehicles and determine appropriate thresholds to find the probability of failure events. To this end, we introduce a three-step methodology which i) uses offline state action pairs of any autonomous vehicle under test, ii) builds an abstract behavior representation using our designed reward modeling technique to analyze states with uncertain driving decisions, and iii) uses a disturbance model for minimal perturbation attacks where the driving decisions are less confident. Our reward modeling technique helps in creating a behavior representation that allows us to highlight regions of likely uncertain behavior even when the standard autonomous vehicle performs well. We perform our experiments in a high-fidelity urban driving environment using three different driving scenarios containing single- and multi-agent interactions. Our experiment shows an increase in 35, 23, 48, and 50% in the occurrences of vehicle collision, road object collision, pedestrian collision, and offroad steering events, respectively by the autonomous vehicle under test, demonstrating a significant increase in failure events. We compare ReMAV with two baselines and show that ReMAV demonstrates significantly better effectiveness in generating failure events compared to the baselines in all evaluation metrics.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google