COLA: Characterizing and Optimizing the Tail Latency for Safe Level-4 Autonomous Vehicle Systems

要約

自律走行車（AV）は、安全でリラックスできる便利な地上交通を提供することで、私たちの生活に革命を起こすことが想定されています。このような車両に搭載されるコンピューティングシステムは、安全運転を確保するために、様々なセンサーデータを解釈し、環境に対する応答をタイムリーに生成する必要があります。しかし、このようなタイミングに関連する安全要件は、先行研究においてほとんど未解明である。 本論文では、AVシステムのタイミング要件を理解するための体系的な研究を実施する。レベル4AVコンピューティングシステムにおけるテールレイテンシの原因を調査し、軽減することに焦点を当てる。AVアルゴリズムの性能は一様に分布しているわけではなく、レイテンシは交通密度のような車両環境の変動に影響されやすいことが分かっている。このため、交通量に応じた計算やメモリアクセスのバーストが発生し、さらにシステムのテールレイテンシにつながる。さらに、テールレイテンシは、事前に設定されたAV計算パイプラインと実走行シナリオにおける動的なレイテンシ要件との間のミスマッチからも生じることが観察された。 これらの観察に基づき、AVのテールレイテンシを軽減するための一連のシステム設計を提案する。我々は、広く使用されている産業用レベル4AVシステム、Baidu ApolloとAutowareで我々の設計を実証する。その結果、我々の設計は、最悪の場合の待ち時間に対して1.65倍、平均の待ち時間に対して1.3倍の改善を達成し、Apolloでは93%の事故を回避することができました。

要約(オリジナル)

Autonomous vehicles (AVs) are envisioned to revolutionize our life by providing safe, relaxing, and convenient ground transportation. The computing systems in such vehicles are required to interpret various sensor data and generate responses to the environment in a timely manner to ensure driving safety. However, such timing-related safety requirements are largely unexplored in prior works. In this paper, we conduct a systematic study to understand the timing requirements of AV systems. We focus on investigating and mitigating the sources of tail latency in Level-4 AV computing systems. We observe that the performance of AV algorithms is not uniformly distributed — instead, the latency is susceptible to vehicle environment fluctuations, such as traffic density. This contributes to burst computation and memory access in response to the traffic, and further leads to tail latency in the system. Furthermore, we observe that tail latency also comes from a mismatch between the pre-configured AV computation pipeline and the dynamic latency requirements in real-world driving scenarios. Based on these observations, we propose a set of system designs to mitigate AV tail latency. We demonstrate our design on widely-used industrial Level-4 AV systems, Baidu Apollo and Autoware. The evaluation shows that our design achieves 1.65 X improvement over the worst-case latency and 1.3 X over the average latency, and avoids 93% of accidents on Apollo.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL