From Neural Activations to Concepts: A Survey on Explaining Concepts in Neural Networks

要約

この論文では、ニューラル ネットワークの概念を説明するための最近のアプローチをレビューします。
概念は、学習と推論の間の自然なリンクとして機能します。ニューラル学習システムが使用する概念が特定されると、それらの概念を推論のために推論システムと統合したり、推論システムを使用してそれらの概念に作用して学習を改善または強化したりできます。
システム。
一方、ニューラル ネットワークから知識を抽出できるだけでなく、概念知識をニューラル ネットワーク アーキテクチャに挿入することもできます。
学習と推論の統合は神経記号 AI の中核であるため、この調査から得られた洞察は、説明可能な概​​念に基づいた神経記号 AI の実現に向けた重要なステップとして役立ちます。

要約(オリジナル)

In this paper, we review recent approaches for explaining concepts in neural networks. Concepts can act as a natural link between learning and reasoning: once the concepts are identified that a neural learning system uses, one can integrate those concepts with a reasoning system for inference or use a reasoning system to act upon them to improve or enhance the learning system. On the other hand, knowledge can not only be extracted from neural networks but concept knowledge can also be inserted into neural network architectures. Since integrating learning and reasoning is at the core of neuro-symbolic AI, the insights gained from this survey can serve as an important step towards realizing neuro-symbolic AI based on explainable concepts.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google