Assessing Trustworthiness of Autonomous Systems

要約

自律型システム（AS）が社会の中でよりユビキタスになり、私たちの安全に対する責任が増し、ASとの相互作用がより頻繁になるにつれ、ASが信頼できることが不可欠になります。ASの信頼性を評価することは、検証・開発コミュニティにとって必須の課題である。そのためには、現在および将来の幅広いアプリケーションにおいて、ASの信頼性を客観的かつ比較的に判断するのに役立つ適切な標準と適切なメトリクスが必要となります。信頼性」というメタ表現を、ASの文脈で検討し、文献にあるこの用語を構成する関連品質を捕捉する。自律システムの保証をサポートする標準とフレームワークの最近の発展についてレビューする。コミュニティにとっての重要な課題のリストが特定され、ASの信頼性評価フレームワークとして使用可能なプロセスの概要が提示される。

要約(オリジナル)

As Autonomous Systems (AS) become more ubiquitous in society, more responsible for our safety and our interaction with them more frequent, it is essential that they are trustworthy. Assessing the trustworthiness of AS is a mandatory challenge for the verification and development community. This will require appropriate standards and suitable metrics that may serve to objectively and comparatively judge trustworthiness of AS across the broad range of current and future applications. The meta-expression `trustworthiness’ is examined in the context of AS capturing the relevant qualities that comprise this term in the literature. Recent developments in standards and frameworks that support assurance of autonomous systems are reviewed. A list of key challenges are identified for the community and we present an outline of a process that can be used as a trustworthiness assessment framework for AS.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL