Explaining Explanations in Probabilistic Logic Programming

要約

人工知能に基づくツールの出現により、人間が理解できる説明を作成する必要性も生じています。
ほとんどのアプローチでは、システムはブラックボックスとみなされ、適切な説明を生成することが困難になります。
ただし、この研究では、モデルが透過的である設定、つまり知識表現のための論理プログラミングと不確実性をモデル化するための確率を組み合わせたパラダイムである確率的論理プログラミング (PLP) を検討します。
ただし、クエリが与えられると、通常の説明の概念は、モデルの確率変数ごとに 1 つずつ、一連​​の選択肢に関連付けられます。
残念ながら、そのようなセットではクエリが真である理由が説明されず、実際には、考慮されているクエリには実際には無関係な選択肢が含まれている可能性があります。
この状況を改善するために、この論文では、PLP 用の新しいクエリ駆動推論メカニズムの定義に基づいた説明を説明するアプローチを示します。このメカニズムでは、証明に「選択式」というラベルが付けられます。これは、選択肢のセットに対するコンパクトで操作が簡単な表現です。
。
プルーフ ツリーと選択式を組み合わせることで、因果構造を備えたわかりやすいクエリの正当性を生成できます。

要約(オリジナル)

The emergence of tools based on artificial intelligence has also led to the need of producing explanations which are understandable by a human being. In most approaches, the system is considered a black box, making it difficult to generate appropriate explanations. In this work, though, we consider a setting where models are transparent: probabilistic logic programming (PLP), a paradigm that combines logic programming for knowledge representation and probability to model uncertainty. However, given a query, the usual notion of explanation is associated with a set of choices, one for each random variable of the model. Unfortunately, such a set does not explain why the query is true and, in fact, it may contain choices that are actually irrelevant for the considered query. To improve this situation, we present in this paper an approach to explaining explanations which is based on defining a new query-driven inference mechanism for PLP where proofs are labeled with ‘choice expressions’, a compact and easy to manipulate representation for sets of choices. The combination of proof trees and choice expressions allows us to produce comprehensible query justifications with a causal structure.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google