Case Study: Runtime Safety Verification of Neural Network Controlled System

要約

ニューラル ネットワークは、ロボット工学や自動運転車などの安全性が重要なアプリケーションでますます使用されています。
ただし、ニューラル ネットワーク制御システム (NNCS) の導入により、安全性に関する重大な懸念が生じます。
最近の進歩の多くは、リアルタイム シナリオで制御を検証し、安全性を確保するという重要な側面を見落としています。
この論文では、LiDAR を使用した Turtlebot ナビゲーション システムの実行時安全性検証に、最先端の NNCS 到達可能性分析ツールである POLAR-Express を使用するケース スタディを紹介します。
Turtlebot はステアリング用のニューラル ネットワーク コントローラーを備えており、障害物のある複雑な環境でも動作します。
検証結果に基づいて、オリジナルのNNCSコントローラと障害物回避コントローラを切り替える安全なオンラインコントローラ切り替え戦略を開発しました。
ROS2 Flatland シミュレーション環境で行われた実験では、実行時検証に POLAR-Express を使用する機能と制限を調査し、スイッチング戦略の有効性を実証しました。

要約(オリジナル)

Neural networks are increasingly used in safety-critical applications such as robotics and autonomous vehicles. However, the deployment of neural-network-controlled systems (NNCSs) raises significant safety concerns. Many recent advances overlook critical aspects of verifying control and ensuring safety in real-time scenarios. This paper presents a case study on using POLAR-Express, a state-of-the-art NNCS reachability analysis tool, for runtime safety verification in a Turtlebot navigation system using LiDAR. The Turtlebot, equipped with a neural network controller for steering, operates in a complex environment with obstacles. We developed a safe online controller switching strategy that switches between the original NNCS controller and an obstacle avoidance controller based on the verification results. Our experiments, conducted in a ROS2 Flatland simulation environment, explore the capabilities and limitations of using POLAR-Express for runtime verification and demonstrate the effectiveness of our switching strategy.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google