Physical Backdoor Trigger Activation of Autonomous Vehicle using Reachability Analysis

要約

最近の研究では、自動運転車 (AV) が隠されたバックドアによって操作され、物理的なトリガーによってアクティブ化されたときに有害なアクションを実行できることが明らかになりました。
ただし、トラフィックの原則を順守しながら、これらのトリガーをアクティブにする方法はまだ不明です。
動的なトラフィック環境でこの脆弱性を理解することは非常に重要です。
この作業は、制御された動的システムの到達可能性の問題として物理的なトリガーのアクティブ化を提示することにより、このギャップに対処します。
私たちの技術は、事故のトリガー条件に達する可能性がある交通システムのセキュリティ上重要な領域を特定し、それらの条件に到達する方法について意図した軌道を提供します。
典型的なトラフィック シナリオでのテストでは、システムが 100% 近くのアクティブ化率で条件をトリガーすることに成功できることが示されました。
私たちの方法は、AVの脆弱性を特定し、効果的な安全戦略を可能にすることから恩恵を受けます。

要約(オリジナル)

Recent studies reveal that Autonomous Vehicles (AVs) can be manipulated by hidden backdoors, causing them to perform harmful actions when activated by physical triggers. However, it is still unclear how these triggers can be activated while adhering to traffic principles. Understanding this vulnerability in a dynamic traffic environment is crucial. This work addresses this gap by presenting physical trigger activation as a reachability problem of controlled dynamic system. Our technique identifies security-critical areas in traffic systems where trigger conditions for accidents can be reached, and provides intended trajectories for how those conditions can be reached. Testing on typical traffic scenarios showed the system can be successfully driven to trigger conditions with near 100% activation rate. Our method benefits from identifying AV vulnerability and enabling effective safety strategies.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google