$Π$-NeSy: A Possibilistic Neuro-Symbolic Approach

要約

この記事では、ニューラルネットワークによって実行される低レベルの知覚タスクと、可能性のあるルールベースのシステムによって実行される高レベルの推論タスクを組み合わせたニューロシンボリックアプローチを紹介します。
目標は、各入力インスタンスに対して、ターゲット（メタ）の概念に属する可能性のある程度を導き出すことができることです。
この（メタ）概念は、可能性のあるルールベースのシステムによって中間概念に接続されています。
入力インスタンスの各中間概念の確率は、ニューラルネットワークを使用して推測されます。
低レベルの知覚タスクと高レベルの推論タスクとの関係は、確率分布によってモデル化されたニューラルネットワーク出力（SoftMaxの活性化を介して）の可能性分布への変換にあります。
中間概念の使用は説明の目的に役立ちます。ルールベースのシステムを使用すると、（メタ）概念の要素としての入力インスタンスの分類は、中間概念が認識されているという事実によって正当化できます。
技術的な面から、私たちの貢献は、マトリックス関係を定義するための効率的な方法と、可能性のあるルールベースのシステムに関連する方程式システムの設計で構成されています。
対応するマトリックスと方程式は、可能性のあるルールベースのシステムから推論を実行し、トレーニングデータサンプルに従ってそのようなシステムのルールパラメーターの値を学習するために使用される重要なデータ構造です。
さらに、ファジーリレーショナル方程式の一貫性のないシステムの取り扱いに関する最近の結果を活用すると、複数のトレーニングデータサンプルに従ってルールパラメーターを学習するためのアプローチが提示されています。
MNISTの追加の問題とMNIST Sudoku Puzzlesの問題について実験が行われた実験は、最先端の神経系統的なものと比較したアプローチの有効性を強調しています。

要約(オリジナル)

In this article, we introduce a neuro-symbolic approach that combines a low-level perception task performed by a neural network with a high-level reasoning task performed by a possibilistic rule-based system. The goal is to be able to derive for each input instance the degree of possibility that it belongs to a target (meta-)concept. This (meta-)concept is connected to intermediate concepts by a possibilistic rule-based system. The probability of each intermediate concept for the input instance is inferred using a neural network. The connection between the low-level perception task and the high-level reasoning task lies in the transformation of neural network outputs modeled by probability distributions (through softmax activation) into possibility distributions. The use of intermediate concepts is valuable for the explanation purpose: using the rule-based system, the classification of an input instance as an element of the (meta-)concept can be justified by the fact that intermediate concepts have been recognized. From the technical side, our contribution consists of the design of efficient methods for defining the matrix relation and the equation system associated with a possibilistic rule-based system. The corresponding matrix and equation are key data structures used to perform inferences from a possibilistic rule-based system and to learn the values of the rule parameters in such a system according to a training data sample. Furthermore, leveraging recent results on the handling of inconsistent systems of fuzzy relational equations, an approach for learning rule parameters according to multiple training data samples is presented. Experiments carried out on the MNIST addition problems and the MNIST Sudoku puzzles problems highlight the effectiveness of our approach compared with state-of-the-art neuro-symbolic ones.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google