Extensions to Generalized Annotated Logic and an Equivalent Neural Architecture

要約

ディープ ニューラル ネットワークは、画像認識、言語翻訳、データ マイニング、およびゲームのプレイに大きな進歩をもたらしましたが、説明可能性の欠如、事前知識の組み込みの難しさ、およびモジュール性など、パラダイムにはよく知られている限界があります。
ニューロ シンボリック ハイブリッド システムは、計算論理などのシンボリック推論からのアイデアを組み込むことによって、ディープ ニューラル ネットワークを拡張する簡単な方法として最近登場しました。
この論文では、ニューロシンボリックシステムの望ましい基準のリストを提案し、既存のアプローチのいくつかがこれらの基準にどのように対処するかを調べます。
次に、代替ニューロ シンボリック ハイブリッドを含む同等のニューラル アーキテクチャの作成を可能にする、一般化された注釈付きロジックへの拡張を提案します。
ただし、トレーニング プロセスの継続的な最適化に依存する以前のアプローチとは異なり、フレームワークは離散最適化を使用する二値化されたニューラル ネットワークとして設計されています。
正しさの証明を提供し、実装されたシステムでこのフレームワークを実現するために克服しなければならないいくつかの課題について説明します。

要約(オリジナル)

While deep neural networks have led to major advances in image recognition, language translation, data mining, and game playing, there are well-known limits to the paradigm such as lack of explainability, difficulty of incorporating prior knowledge, and modularity. Neuro symbolic hybrid systems have recently emerged as a straightforward way to extend deep neural networks by incorporating ideas from symbolic reasoning such as computational logic. In this paper, we propose a list desirable criteria for neuro symbolic systems and examine how some of the existing approaches address these criteria. We then propose an extension to generalized annotated logic that allows for the creation of an equivalent neural architecture comprising an alternate neuro symbolic hybrid. However, unlike previous approaches that rely on continuous optimization for the training process, our framework is designed as a binarized neural network that uses discrete optimization. We provide proofs of correctness and discuss several of the challenges that must be overcome to realize this framework in an implemented system.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google