NeuPSL: Neural Probabilistic Soft Logic

要約

この論文では、最先端の記号推論とディープ ニューラル ネットワークの低レベル認識を統合する新しいニューロシンボリック (NeSy) フレームワークである Neural Probabilistic Soft Logic (NeuPSL) を紹介します。
ニューラル表現とシンボリック表現の間の境界をモデル化するために、エネルギーベースのモデルのファミリーである NeSy Energy-Based Models を提案し、それらが NeuPSL や他の多くの NeSy アプローチを含められるほど一般的であることを示します。
このフレームワークを使用して、NeuPSL でニューラルおよびシンボリック パラメーターの学習と推論をシームレスに統合する方法を示します。
広範な経験的評価を通じて、NeSy メソッドを使用するメリットを実証し、独立したニューラル ネットワーク モデルと比較して 30% 以上の改善を達成しました。
確立された NeSy タスクである MNIST-Addition では、NeuPSL は、低データ設定で既存の NeSy アプローチを最大 10% 上回るパフォーマンスを示し、共同推論機能を実証します。
さらに、NeuPSL は、正規引用ネットワーク タスクにおいて、最先端の NeSy メソッドと比べてパフォーマンスが 5% 向上し、最大 40 倍の速度向上を実現します。

要約(オリジナル)

In this paper, we introduce Neural Probabilistic Soft Logic (NeuPSL), a novel neuro-symbolic (NeSy) framework that unites state-of-the-art symbolic reasoning with the low-level perception of deep neural networks. To model the boundary between neural and symbolic representations, we propose a family of energy-based models, NeSy Energy-Based Models, and show that they are general enough to include NeuPSL and many other NeSy approaches. Using this framework, we show how to seamlessly integrate neural and symbolic parameter learning and inference in NeuPSL. Through an extensive empirical evaluation, we demonstrate the benefits of using NeSy methods, achieving upwards of 30% improvement over independent neural network models. On a well-established NeSy task, MNIST-Addition, NeuPSL demonstrates its joint reasoning capabilities by outperforming existing NeSy approaches by up to 10% in low-data settings. Furthermore, NeuPSL achieves a 5% boost in performance over state-of-the-art NeSy methods in a canonical citation network task with up to a 40 times speed up.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google