ReMAV: Reward Modeling of Autonomous Vehicles for Finding Likely Failure Events

要約

自動運転車は、さまざまな敵対的な攻撃に対して脆弱であり、車両の安全性が損なわれ、他の道路利用者に危険をもたらすことでよく知られている高度な運転システムです。
環境と対話して複雑な敵を積極的に訓練するのではなく、まず自動運転車の自信が低いと判断された状態のみをインテリジェントに見つけて探索空間を縮小する必要があります。
この論文では、まずオフライン軌道を使用して自動運転車の既存の動作を分析し、故障イベントの確率を見つけるための適切なしきい値を決定するブラックボックス テスト フレームワーク ReMAV を提案します。
私たちの報酬モデリング技術は、ベースラインの自動運転車が良好に動作している場合でも、不確実な動作が見られる領域を強調表示できる動作表現の作成に役立ちます。
このアプローチにより、計算や非効率な能動的敵対的学習手法を必要とせずに、より効率的なテストが可能になります。
私たちは、単一および複数のエージェントのインタラクションを含む 3 つの異なる運転シナリオを使用して、忠実度の高い都市部の運転環境で実験を実行しました。
私たちの実験では、テスト対象の自律走行車による車両衝突、路上物体衝突、歩行者衝突、オフロードステアリングイベントの発生がそれぞれ35%、23%、48%、50%増加し、故障イベントが大幅に増加していることが実証されました。
また、以前のテスト フレームワークとの比較分析も実行し、トレーニングとテストの効率、合計違反の検出、最初の失敗を特定するためのシミュレーション ステップの点で、私たちのアプローチと比較してパフォーマンスが劣っていることを示しました。
結果は、提案されたフレームワークを使用して、単純化した摂動モデルから始めて、テスト対象の自律走行車の既存の弱点を理解して、それらの領域のみを攻撃できることを示しています。

要約(オリジナル)

Autonomous vehicles are advanced driving systems that are well known for being vulnerable to various adversarial attacks, compromising the vehicle’s safety, and posing danger to other road users. Rather than actively training complex adversaries by interacting with the environment, there is a need to first intelligently find and reduce the search space to only those states where autonomous vehicles are found less confident. In this paper, we propose a blackbox testing framework ReMAV using offline trajectories first to analyze the existing behavior of autonomous vehicles and determine appropriate thresholds for finding the probability of failure events. Our reward modeling technique helps in creating a behavior representation that allows us to highlight regions of likely uncertain behavior even when the baseline autonomous vehicle is performing well. This approach allows for more efficient testing without the need for computational and inefficient active adversarial learning techniques. We perform our experiments in a high-fidelity urban driving environment using three different driving scenarios containing single and multi-agent interactions. Our experiment shows 35%, 23%, 48%, and 50% increase in occurrences of vehicle collision, road objects collision, pedestrian collision, and offroad steering events respectively by the autonomous vehicle under test, demonstrating a significant increase in failure events. We also perform a comparative analysis with prior testing frameworks and show that they underperform in terms of training-testing efficiency, finding total infractions, and simulation steps to identify the first failure compared to our approach. The results show that the proposed framework can be used to understand existing weaknesses of the autonomous vehicles under test in order to only attack those regions, starting with the simplistic perturbation models.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google