NeSyFOLD: Extracting Logic Programs from Convolutional Neural Networks

要約

タイトル：NeSyFOLD：畳み込みニューラルネットワークから論理プログラムを抽出する

要約：

– NeSyFOLDは、CNNから論理規則を抽出し、画像を分類するNeSyFOLDモデルを作成する新しい神経記号フレームワークです。
– NeSyFOLDの学習パイプラインは次のとおりです：（i）まず、入力画像データセットでCNNをプレトレーニングし、最後の層のカーネルの活性化をバイナリ値として抽出します。 （ii）次に、FOLD-SE-M規則ベースの機械学習アルゴリズムを使用して、各カーネルに対応するバイナリ活性化ベクトルで表された画像を分類できる論理プログラムを生成し、論理的な説明を提供します。 FOLD-SE-Mアルゴリズムによって生成された規則には、カーネル番号が述語として含まれています。
– NeSyFOLDは、CNNカーネルを画像の意味的概念に自動的にマッピングするための新しいアルゴリズムを開発しました。このマッピングは、規則セット内の述語名（カーネル番号）を対応する意味的な概念ラベルで置換するために使用されます。生成された規則セットは解釈可能であり、人間に直感的に理解されます。
– NeSyFOLDフレームワークを、決定木のようなアルゴリズムを使用して規則を取得するERICシステムと比較しました。当社のフレームワークは、次の利点があります：（i）ほとんどの場合、NeSyFOLDは精度と忠実度に影響を与えずにより小さな規則セットを生成します。 （ii）NeSyFOLDは、フィルタ番号を意味的なラベルに自動的にマッピングします。

要約(オリジナル)

We present a novel neurosymbolic framework called NeSyFOLD to extract logic rules from a CNN and create a NeSyFOLD model to classify images. NeSyFOLD’s learning pipeline is as follows: (i) We first pre-train a CNN on the input image dataset and extract activations of the last layer kernels as binary values; (ii) Next, we use the FOLD-SE-M rule-based machine learning algorithm to generate a logic program that can classify an image — represented as a vector of binary activations corresponding to each kernel — while producing a logical explanation. The rules generated by the FOLD-SE-M algorithm have kernel numbers as predicates. We have devised a novel algorithm for automatically mapping the CNN kernels to semantic concepts in the images. This mapping is used to replace predicate names (kernel numbers) in the rule-set with corresponding semantic concept labels. The resulting rule-set is interpretable, and can be intuitively understood by humans. We compare our NeSyFOLD framework with the ERIC system that uses a decision-tree like algorithm to obtain the rules. Our framework has the following advantages over ERIC: (i) In most cases, NeSyFOLD generates smaller rule-sets without compromising on the accuracy and fidelity; (ii) NeSyFOLD generates the mapping of filter numbers to semantic labels automatically.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI