A Survey on Verification and Validation, Testing and Evaluations of Neurosymbolic Artificial Intelligence

要約

ニューロシンボリック人工知能 (AI) は、シンボリック AI とサブシンボリック AI の長所を組み合わせた AI の新興分野です。
サブシンボリック AI の主な欠点は、それが「ブラック ボックス」として機能することです。つまり、予測の説明が難しく、サブシンボリック AI を使用するシステムのテストと評価 (T&E) および検証と検証 (V&V) プロセスが困難になります。
シンボリック AI は課題です。
ニューロシンボリック AI はシンボリック AI とサブシンボリック AI の両方の利点を組み合わせているため、この調査ではニューロシンボリック アプリケーションがどのように V&V プロセスを容易にするかを調査します。
この調査では、神経記号 AI の 2 つの分類を検討し、それらを評価し、現在のアプリケーションでどのアルゴリズムが記号コンポーネントおよびサブ記号コンポーネントとして一般的に使用されているかを分析します。
さらに、これらのコンポーネントの T&E および V&V プロセスの現在の技術の概要も提供されます。
さらに、現在の神経記号応用において、記号部分が T&E および V&V の目的でどのように使用されているかが調査されています。
私たちの研究は、ニューロシンボリック AI が、シンボリック AI の可能性を活用することで、サブシンボリック AI の T&E および V&V プロセスを容易にする大きな可能性があることを示しています。
さらに、現在の T&E および V&V 手法の神経象徴 AI への適用可能性が評価され、さまざまな神経象徴アーキテクチャがこれらの手法にどのような影響を与える可能性があるかが調査されます。
現在の T&E および V&V 手法は、神経象徴的アプリケーションの記号部分と部分記号部分を独立してテスト、評価、検証、または検証するのに部分的には十分である一方、一部の手法では、現在の T&E および V&V 手法がデフォルトでは適用できないアプローチが使用されていることがわかりました。
、調整や新しいアプローチが必要になる場合もあります。
私たちの研究は、シンボリック AI を使用してサブシンボリック モデルの予測をテスト、評価、検証、または検証することに大きな可能性があることを示しており、ニューロシンボリック AI が安全、安心、信頼できる AI のための興味深い研究方向となっています。

要約(オリジナル)

Neurosymbolic artificial intelligence (AI) is an emerging branch of AI that combines the strengths of symbolic AI and sub-symbolic AI. A major drawback of sub-symbolic AI is that it acts as a ‘black box’, meaning that predictions are difficult to explain, making the testing & evaluation (T&E) and validation & verification (V&V) processes of a system that uses sub-symbolic AI a challenge. Since neurosymbolic AI combines the advantages of both symbolic and sub-symbolic AI, this survey explores how neurosymbolic applications can ease the V&V process. This survey considers two taxonomies of neurosymbolic AI, evaluates them, and analyzes which algorithms are commonly used as the symbolic and sub-symbolic components in current applications. Additionally, an overview of current techniques for the T&E and V&V processes of these components is provided. Furthermore, it is investigated how the symbolic part is used for T&E and V&V purposes in current neurosymbolic applications. Our research shows that neurosymbolic AI as great potential to ease the T&E and V&V processes of sub-symbolic AI by leveraging the possibilities of symbolic AI. Additionally, the applicability of current T&E and V&V methods to neurosymbolic AI is assessed, and how different neurosymbolic architectures can impact these methods is explored. It is found that current T&E and V&V techniques are partly sufficient to test, evaluate, verify, or validate the symbolic and sub-symbolic part of neurosymbolic applications independently, while some of them use approaches where current T&E and V&V methods are not applicable by default, and adjustments or even new approaches are needed. Our research shows that there is great potential in using symbolic AI to test, evaluate, verify, or validate the predictions of a sub-symbolic model, making neurosymbolic AI an interesting research direction for safe, secure, and trustworthy AI.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google