On the Multiple Roles of Ontologies in Explainable AI

要約

この論文では、明示的知識、特にオントロジーが、説明可能な AI および人間中心の説明可能なシステムとわかりやすい説明の開発において果たすことができるさまざまな役割について説明します。
私たちは、オントロジーが大きく貢献できる 3 つの主な観点、すなわち参照モデリング、常識的推論、知識の洗練と複雑さの管理について検討します。
文献にある既存のアプローチのいくつかを概観し、これらの提案された 3 つの観点に従ってそれらを位置づけます。
この論文は、オントロジーに基づいた説明アプローチを可能にし、その人間の理解可能性と有効性を評価するために、どのような課題に取り組む必要があるかについて議論して締めくくられています。

要約(オリジナル)

This paper discusses the different roles that explicit knowledge, in particular ontologies, can play in Explainable AI and in the development of human-centric explainable systems and intelligible explanations. We consider three main perspectives in which ontologies can contribute significantly, namely reference modelling, common-sense reasoning, and knowledge refinement and complexity management. We overview some of the existing approaches in the literature, and we position them according to these three proposed perspectives. The paper concludes by discussing what challenges still need to be addressed to enable ontology-based approaches to explanation and to evaluate their human-understandability and effectiveness.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google