DCNFIS: Deep Convolutional Neuro-Fuzzy Inference System

要約

eXplainable Artificial Intelligence における主な課題は、アルゴリズムの透明性 (つまり、事後的な説明を受けるのではなく、人間がどれだけ簡単にアルゴリズムを直接理解できるか) とその精度の間のよく知られたトレードオフです。
精度を犠牲にすることなく透明性の向上を実現する新しいディープネットワークの設計について報告します。
ファジー論理と深層学習モデルをハイブリッド化することにより、深層畳み込みニューラルファジー推論システム (DCNFIS) を設計し、DCNFIS が 4 つのよく知られたデータセットに対して 3 つの既存の畳み込みニューラル ネットワークと同等の精度で動作することを示します。
さらに、DCNFIS は最先端のディープ ファジー システムよりも優れたパフォーマンスを発揮すると考えられます。
次に、DCNFIS でエンコードされたファジー ルールから顕著性マップの形式で説明を導き出すことで、ファジー ロジックの透明性を活用します。
私たちは、Fashion-MNIST データセットを使用して、これらの説明の特性をさらに詳しく調査します。

要約(オリジナル)

A key challenge in eXplainable Artificial Intelligence is the well-known tradeoff between the transparency of an algorithm (i.e., how easily a human can directly understand the algorithm, as opposed to receiving a post-hoc explanation), and its accuracy. We report on the design of a new deep network that achieves improved transparency without sacrificing accuracy. We design a deep convolutional neuro-fuzzy inference system (DCNFIS) by hybridizing fuzzy logic and deep learning models and show that DCNFIS performs as accurately as three existing convolutional neural networks on four well-known datasets. We furthermore that DCNFIS outperforms state-of-the-art deep fuzzy systems. We then exploit the transparency of fuzzy logic by deriving explanations, in the form of saliency maps, from the fuzzy rules encoded in DCNFIS. We investigate the properties of these explanations in greater depth using the Fashion-MNIST dataset.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google