Anatomy of a Robotaxi Crash: Lessons from the Cruise Pedestrian Dragging Mishap

要約

2023年10月にサンフランシスコで発生したGMクルーズ社のロボットタクシーと歩行者との衝突事故は、重傷を負っただけでなく、同社に劇的な混乱をもたらし、業界全体に永続的な影響を与える可能性が高い。
問題は、紛失事故自体だけでなく、衝突後の最初の停止後にロボットタクシーが車両の下に歩行者を引きずり込むというクルーズ社の対応を誤ったことにも起因している。
外部調査報告書は、事件を説明する生の資料を提供し、規制の観点から会社の対応を批判しますが、安全工学に関する推奨事項は範囲から除外されます。
外部レポート資料のさまざまな部分を結び付けることで、特定の事実とイベント間の関係を強調します。
次に、近くの事故の認識と対応、衝突後のシナリオの正確な世界モデルの構築、複雑な状況におけるいわゆる「最小限のリスク条件」戦略の不適切さ、および
事故に対応する際の組織規律の欠如、悪い状況を悪化させた過度に攻撃的な衝突後の自動化の選択、そして下流でさらに深刻な組織的損害を引き起こした事故を認めたがらないこと。

要約(オリジナル)

An October 2023 crash between a GM Cruise robotaxi and a pedestrian in San Francisco resulted not only in a severe injury, but also dramatic upheaval at that company that will likely have lasting effects throughout the industry. Is-sues stem not just from the loss events themselves, but also from how Cruise mishandled dealing with their robotaxi dragging a pedestrian under the vehicle after the initial post-crash stop. External investigation reports provide raw material describing the incident and critique the company’s response from a regulatory point of view, but exclude safety engineering recommendations from scope. We highlight specific facts and relationships among events by tying together different pieces of the external report material. We then explore safety lessons that might be learned related to: recognizing and responding to nearby mishaps, building an accurate world model of a post-collision scenario, the in-adequacy of a so-called ‘minimal risk condition’ strategy in complex situations, poor organizational discipline in responding to a mishap, overly aggressive post-collision automation choices that made a bad situation worse, and a reluctance to admit to a mishap causing much worse organizational harm down-stream.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google