EnergyShield: Provably-Safe Offloading of Neural Network Controllers for Energy Efficiency

要約

ニューラル ネットワーク (NN) ベースの自動運転システム (ADS) の高いエネルギー需要を軽減するために、NN コントローラーを ADS から近くのエッジ コンピューティング インフラストラクチャにオフロードする問題を検討しますが、正式な車両の安全特性が保証されるようにします。
.
特に、コントローラの「シールド」を ADS 車両の低電力ランタイム安全モニタとして再利用する EnergyShield フレームワークを提案します。
具体的には、EnergyShield のシールドは、安全介入だけでなく、車両の安全性が損なわれる前の許容エッジ応答時間の正式な状態ベースの定量化も提供します。
EnergyShield を使用すると、ADS は NN 計算をエッジ コンピューターにワイヤレスでオフロードすることでエネルギーを節約できますが、応答を受信するまで安全性の正式な保証を維持します (車載ハードウェアはジャスト イン タイムのフェイル セーフを提供します)。
EnergyShield の利点を検証するために、Carla シミュレーション環境に実装してテストしました。
私たちの結果は、EnergyShield が安全な車両操作を維持しながら、車載 NN 評価と比較して大幅なエネルギー節約を提供することを示しています。ワイヤレス条件とエッジ遅延の範囲全体で 24% から 54% 少ないエネルギーです。

要約(オリジナル)

To mitigate the high energy demand of Neural Network (NN) based Autonomous Driving Systems (ADSs), we consider the problem of offloading NN controllers from the ADS to nearby edge-computing infrastructure, but in such a way that formal vehicle safety properties are guaranteed. In particular, we propose the EnergyShield framework, which repurposes a controller ”shield” as a low-power runtime safety monitor for the ADS vehicle. Specifically, the shield in EnergyShield provides not only safety interventions but also a formal, state-based quantification of the tolerable edge response time before vehicle safety is compromised. Using EnergyShield, an ADS can then save energy by wirelessly offloading NN computations to edge computers, while still maintaining a formal guarantee of safety until it receives a response (on-vehicle hardware provides a just-in-time fail safe). To validate the benefits of EnergyShield, we implemented and tested it in the Carla simulation environment. Our results show that EnergyShield maintains safe vehicle operation while providing significant energy savings compared to on-vehicle NN evaluation: from 24% to 54% less energy across a range of wireless conditions and edge delays.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google