UniSTPA: A Safety Analysis Framework for End-to-End Autonomous Driving

要約

自律運転技術が進歩し続けるにつれて、エンドツーエンドモデルは、優れた一般化能力により、かなりの注目を集めています。
それにもかかわらず、このような学習ベースのシステムは、開発と路上展開を通して多くの安全リスクを伴い、既存の安全分析方法はこれらのリスクを包括的に特定するのに苦労しています。
このギャップに対処するために、統一されたシステム理論プロセス分析（UnistPA）フレームワークを提案します。これにより、STPAの範囲は、情報収集、データ準備、閉ループトレーニング、検証、展開など、エンドツーエンドの自律運転システムのライフサイクル全体に拡張されます。
Unistpaは、コンポーネントレベルだけでなく、モデルの内部層内でもハザード分析を実行し、それにより、インターおよびモジュール内の相互作用の微細な評価を可能にします。
高速道路をケーススタディとしてオートパイロット機能でナビゲートすると、Unistpaは、マルチレベルの因果分析を通じて、シーンデザインの欠陥、センサー融合バイアス、内部モデルの欠陥を含む従来のアプローチによって見過ごされている多段階のハザードを明らかにし、これらの危険をデータ品質、ネットワークアーキテクチャ、最適化などのより深い問題に追跡します。
分析結果は、ハザードの識別からシステムの最適化までの継続的な改善をサポートする安全性監視と安全対応メカニズムを構築するために使用されます。
したがって、提案されたフレームワークは、エンドツーエンドの自律駆動システムの安全な開発と展開に関する理論的および実用的なガイダンスの両方を提供します。

要約(オリジナル)

As autonomous driving technology continues to advance, end-to-end models have attracted considerable attention owing to their superior generalisation capability. Nevertheless, such learning-based systems entail numerous safety risks throughout development and on-road deployment, and existing safety-analysis methods struggle to identify these risks comprehensively. To address this gap, we propose the Unified System Theoretic Process Analysis (UniSTPA) framework, which extends the scope of STPA from the operational phase to the entire lifecycle of an end-to-end autonomous driving system, including information gathering, data preparation, closed loop training, verification, and deployment. UniSTPA performs hazard analysis not only at the component level but also within the model’s internal layers, thereby enabling fine-grained assessment of inter and intra module interactions. Using a highway Navigate on Autopilot function as a case study, UniSTPA uncovers multi-stage hazards overlooked by conventional approaches including scene design defects, sensor fusion biases, and internal model flaws, through multi-level causal analysis, traces these hazards to deeper issues such as data quality, network architecture, and optimisation objectives. The analysis result are used to construct a safety monitoring and safety response mechanism that supports continuous improvement from hazard identification to system optimisation. The proposed framework thus offers both theoretical and practical guidance for the safe development and deployment of end-to-end autonomous driving systems.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google