Grand Challenges in the Verification of Autonomous Systems

要約

自律システムは、複雑で予測不可能な環境で目標を達成するために、限られた人間の介入のみで独立した意思決定を使用します。
これらのシステムを支える自律技術が進歩し続けるにつれて、これらのシステムは、さらに幅広い設定でますます多くのアプリケーションに採用されるようになるでしょう。
セーフティクリティカルまたはミッションクリティカルな役割を実行するためにそれらを配備する場合、それらの安全で正しい動作に対する正当な信頼が不可欠です。
検証は、そのような信頼を確立するプロセスです。
ただし、自律システムは既存の検証実践に課題をもたらします。
このペーパーでは、IEEE ロボット工学およびオートメーション協会の自律システム検証技術委員会のロードマップ ワーキング グループの視点に焦点を当て、これらの大きな課題を特定し、それらに対処するために必要な将来の研究活動のビジョンを提供します。

要約(オリジナル)

Autonomous systems use independent decision-making with only limited human intervention to accomplish goals in complex and unpredictable environments. As the autonomy technologies that underpin them continue to advance, these systems will find their way into an increasing number of applications in an ever wider range of settings. If we are to deploy them to perform safety-critical or mission-critical roles, it is imperative that we have justified confidence in their safe and correct operation. Verification is the process by which such confidence is established. However, autonomous systems pose challenges to existing verification practices. This paper highlights viewpoints of the Roadmap Working Group of the IEEE Robotics and Automation Society Technical Committee for Verification of Autonomous Systems, identifying these grand challenges, and providing a vision for future research efforts that will be needed to address them.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google