要約
ニューラルネットワークは、コンピュータビジョンのタスクにおいて非常に強力であることが証明されている。しかし、ニューラルネットワークはしばしば、背景知識を表現する既知の要件に違反する予期せぬ振る舞いを示すことがある。このため、(i)要件から学習でき、(ii)要件そのものに準拠していることが保証されたモデルが必要とされる。残念ながら、このようなモデルの開発は、正式に指定された要件を備えたデータセットの欠如によって妨げられている。本論文では、論理的制約として表現された要件を持つ、自律走行に関する初の一般公開されたデータセットであるROAD-R(Road event Awareness Dataset with logical Requirements)を紹介する。ROAD-Rを用いると、現在の最新モデルはしばしばその論理制約に違反し、それを利用することで(i)より優れた性能を持ち、(ii)要件そのものに準拠していることが保証されたモデルを作成することが可能であることが示される。
要約(オリジナル)
Neural networks have proven to be very powerful at computer vision tasks. However, they often exhibit unexpected behaviours, violating known requirements expressing background knowledge. This calls for models (i) able to learn from the requirements, and (ii) guaranteed to be compliant with the requirements themselves. Unfortunately, the development of such models is hampered by the lack of datasets equipped with formally specified requirements. In this paper, we introduce the ROad event Awareness Dataset with logical Requirements (ROAD-R), the first publicly available dataset for autonomous driving with requirements expressed as logical constraints. Given ROAD-R, we show that current state-of-the-art models often violate its logical constraints, and that it is possible to exploit them to create models that (i) have a better performance, and (ii) are guaranteed to be compliant with the requirements themselves.
arxiv情報
著者 | Eleonora Giunchiglia,Mihaela Cătălina Stoian,Salman Khan,Fabio Cuzzolin,Thomas Lukasiewicz |
発行日 | 2022-10-05 11:42:42+00:00 |
arxivサイト | arxiv_id(pdf) |