From Words to Collisions: LLM-Guided Evaluation and Adversarial Generation of Safety-Critical Driving Scenarios

要約

自動運転車の安全性を確保するには、仮想シナリオベースのテストが必要です。これは、安全性が批判的なシナリオの堅牢な評価と生成に依存します。
これまでのところ、研究者は、安全メトリックとして手作りのシナリオに大きく依存するシナリオベースのテストフレームワークを使用しています。
人間の解釈の努力を減らし、これらのアプローチの限られたスケーラビリティを克服するために、大規模な言語モデル（LLM）と構造化されたシナリオの解析と迅速なエンジニアリングを組み合わせて、安全性が批判的な運転シナリオを自動的に評価および生成します。
シナリオ評価のためのデカルトおよびエゴ中心の迅速な戦略と、リスク誘導車両（自我攻撃者）の軌跡を変更して重要なシナリオを作成する敵対的な生成モジュールを紹介します。
2Dシミュレーションフレームワークと複数の事前訓練を受けたLLMを使用して、アプローチを検証します。
結果は、評価モジュールが衝突シナリオを効果的に検出し、シナリオの安全性を促進することを示しています。
一方、新世代モジュールは、リスクの高いエージェントを識別し、現実的で安全性の高いシナリオを合成します。
ドメインに基づいたプロンプト技術を装備したLLMは、安全性が批判的な運転シナリオを効果的に評価および生成し、手作りのメトリックへの依存を減らすことができると結論付けています。
https：//github.com/tum-avs/from-words-collisionsでオープンソースコードとシナリオをリリースします。

要約(オリジナル)

Ensuring the safety of autonomous vehicles requires virtual scenario-based testing, which depends on the robust evaluation and generation of safety-critical scenarios. So far, researchers have used scenario-based testing frameworks that rely heavily on handcrafted scenarios as safety metrics. To reduce the effort of human interpretation and overcome the limited scalability of these approaches, we combine Large Language Models (LLMs) with structured scenario parsing and prompt engineering to automatically evaluate and generate safety-critical driving scenarios. We introduce Cartesian and Ego-centric prompt strategies for scenario evaluation, and an adversarial generation module that modifies trajectories of risk-inducing vehicles (ego-attackers) to create critical scenarios. We validate our approach using a 2D simulation framework and multiple pre-trained LLMs. The results show that the evaluation module effectively detects collision scenarios and infers scenario safety. Meanwhile, the new generation module identifies high-risk agents and synthesizes realistic, safety-critical scenarios. We conclude that an LLM equipped with domain-informed prompting techniques can effectively evaluate and generate safety-critical driving scenarios, reducing dependence on handcrafted metrics. We release our open-source code and scenarios at: https://github.com/TUM-AVS/From-Words-to-Collisions.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google