Efficient Rectification of Neuro-Symbolic Reasoning Inconsistencies by Abductive Reflection

要約

ニューロシンボリック (NeSy) AI は、人間の二重プロセス認知に類似したものとみなすことができ、ニューラル ネットワークで直感的なシステム 1 をモデル化し、記号推論でアルゴリズム システム 2 をモデル化します。
ただし、複雑な学習目標の場合、NeSy システムはドメイン知識と矛盾する出力を生成することが多く、それらを修正するのは困難です。
直感的な反応のエラーを即座に検出し、システム 2 推論を呼び出すことで修正する人間の認知的反射に触発され、アブダクティブ学習 (ABL) フレームワークに基づくアブダクティブ リフレクション (ABL-Refl) を導入することで NeSy システムを改善することを提案します。
ABL-Refl は、ドメイン知識を活用してトレーニング中にリフレクション ベクトルをアブダクションします。これにより、ニューラル ネットワーク出力の潜在的なエラーにフラグを立て、アブダクションを呼び出してエラーを修正し、推論中に一貫した出力を生成できます。
ABL-Refl は、以前の ABL 実装とは対照的に非常に効率的です。
実験によれば、ABL-Refl は最先端の NeSy 手法を上回り、少ないトレーニング リソースと向上した効率で優れた精度を実現します。

要約(オリジナル)

Neuro-Symbolic (NeSy) AI could be regarded as an analogy to human dual-process cognition, modeling the intuitive System 1 with neural networks and the algorithmic System 2 with symbolic reasoning. However, for complex learning targets, NeSy systems often generate outputs inconsistent with domain knowledge and it is challenging to rectify them. Inspired by the human Cognitive Reflection, which promptly detects errors in our intuitive response and revises them by invoking the System 2 reasoning, we propose to improve NeSy systems by introducing Abductive Reflection (ABL-Refl) based on the Abductive Learning (ABL) framework. ABL-Refl leverages domain knowledge to abduce a reflection vector during training, which can then flag potential errors in the neural network outputs and invoke abduction to rectify them and generate consistent outputs during inference. ABL-Refl is highly efficient in contrast to previous ABL implementations. Experiments show that ABL-Refl outperforms state-of-the-art NeSy methods, achieving excellent accuracy with fewer training resources and enhanced efficiency.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google