S-RAF: A Simulation-Based Robustness Assessment Framework for Responsible Autonomous Driving

要約

人工知能 (AI) テクノロジーが進歩するにつれて、AI 駆動システムの堅牢性と安全性を確保することが最重要になっています。
ただし、AI 開発者間で堅牢性に対する認識が異なるため、評価基準のずれが生じ、自動運転 (AD) エージェントなどの安全性が重要で複雑な AI システムの評価と認証が複雑になります。
この課題に対処するために、自動運転用のシミュレーションベースの堅牢性評価フレームワーク (S-RAF) を導入します。
S-RAF は、CARLA ドライビング シミュレーターを活用して、センサーの故障、環境の変化、複雑な交通状況など、さまざまな条件にわたって AD エージェントを厳密に評価します。
S-RAF は、堅牢性と、炭素排出量などの他の安全上重要な要素との関係を定量化することで、開発者や関係者が安全で責任ある運転主体を構築し、安全認証プロセスを合理化するのに役立ちます。
さらに、S-RAF には、テスト コストの削減や、現実世界でテストするには安全ではない可能性があるエッジ ケースを探索する機能など、大きな利点があります。
このフレームワークのコードはここから入手できます: https://github.com/cognitive-robots/rai-leaderboard

要約(オリジナル)

As artificial intelligence (AI) technology advances, ensuring the robustness and safety of AI-driven systems has become paramount. However, varying perceptions of robustness among AI developers create misaligned evaluation metrics, complicating the assessment and certification of safety-critical and complex AI systems such as autonomous driving (AD) agents. To address this challenge, we introduce Simulation-Based Robustness Assessment Framework (S-RAF) for autonomous driving. S-RAF leverages the CARLA Driving simulator to rigorously assess AD agents across diverse conditions, including faulty sensors, environmental changes, and complex traffic situations. By quantifying robustness and its relationship with other safety-critical factors, such as carbon emissions, S-RAF aids developers and stakeholders in building safe and responsible driving agents, and streamlining safety certification processes. Furthermore, S-RAF offers significant advantages, such as reduced testing costs, and the ability to explore edge cases that may be unsafe to test in the real world. The code for this framework is available here: https://github.com/cognitive-robots/rai-leaderboard

arxiv情報

提供元, 利用サービス

arxiv.jp, Google