Intuitionistic Fuzzy Cognitive Maps for Interpretable Image Classification

要約

ユーザーは推論に頼ることに消極的な場合があるため、機械学習モデルの解釈可能性は非常に重要です。
直観主義的 FCM (iFCM) は、人間の意思決定におけるためらいに似た概念であるためらいの推定を通じて出力の品質を評価する自然なメカニズムを提供する FCM の拡張として提案されています。
解釈可能な画像分類の課題に対処するために、この文書では、Interpretable Intuitionistic FCM (I2FCM) という名前の新しいフレームワークを紹介します。これはドメインに依存せず、実装が簡単で、畳み込みニューラル ネットワーク (CNN) モデルに適用でき、解釈可能にします。
私たちの知る限りでは、iFCM が画像分類に適用されるのはこれが初めてです。
さらに新しい貢献としては、最も有益な画像領域に焦点を当てた特徴抽出プロセスが挙げられます。
iFCM の直観的なファジー相互接続をデータに基づいて決定するための学習アルゴリズム。
画像の内容に基づいて本質的に解釈可能な分類アプローチ。
画像分類の文脈では、ためらいは、画像をクラスに分類する際の不確実性の程度とみなされます。
構築された iFCM モデルは、最も代表的な画像セマンティクスを識別し、因果関係を利用してそれらを分析します。
導入されたフレームワークの有効性は、公開されているデータセットで評価され、実験結果により、解釈可能な推論を提供しながら分類パフォーマンスが向上することが確認されました。

要約(オリジナル)

The interpretability of machine learning models is critical, as users may be reluctant to rely on their inferences. Intuitionistic FCMs (iFCMs) have been proposed as an extension of FCMs offering a natural mechanism to assess the quality of their output through the estimation of hesitancy, a concept resembling to human hesitation in decision making. To address the challenge of interpretable image classification, this paper introduces a novel framework, named Interpretable Intuitionistic FCM (I2FCM) which is domain-independent, simple to implement, and can be applied on Convolutional Neural Network (CNN) models, rendering them interpretable. To the best of our knowledge this is the first time iFCMs are applied for image classification. Further novel contributions include: a feature extraction process focusing on the most informative image regions; a learning algorithm for data-driven determination of the intuitionistic fuzzy interconnections of the iFCM; an inherently interpretable classification approach based on image contents. In the context of image classification, hesitancy is considered as a degree of inconfidence with which an image is categorized to a class. The constructed iFCM model distinguishes the most representative image semantics and analyses them utilizing cause-and-effect relations. The effectiveness of the introduced framework is evaluated on publicly available datasets, and the experimental results confirm that it can provide enhanced classification performance, while providing interpretable inferences.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google