Deriving Comprehensible Theories from Probabilistic Circuits

要約

Explainable AI (XAI) の分野では、複雑な AI モデルの内部動作に光を当て、その決定の背後にある理論的根拠を明らかにしようとしています。
注目を集めているモデルの 1 つは確率回路 (PC) です。これは、さまざまな確率クエリの効率的な計算をサポートする、扱いやすい確率モデルのための一般的で統一されたフレームワークです。
確率回路は、回路サイズが多項式となる推論を保証します。
この論文では、PC によって生成される高密度領域をカバーする、理解しやすく読みやすい論理理論を計算することにより、確率回路の説明可能性を向上させます。
これを達成するために、生成重要性に基づく枝刈りアプローチが、PUTPUT (ProbabilisticCircuitUnderstanding Through Pruning Underlyinglogical Theories) と呼ばれる新しい手法で使用されます。
この方法は、音楽プレイリストが自動的に生成され、読み取り可能な (データベース) クエリとして表現される現実世界の使用例に適用されます。
評価の結果、このアプローチは、PC の高密度領域を説明するわかりやすい論理理論を効果的に生成でき、パフォーマンスとわかりやすさのトレードオフを調査する際に最先端の方法よりも優れたパフォーマンスを発揮できることが示されています。

要約(オリジナル)

The field of Explainable AI (XAI) is seeking to shed light on the inner workings of complex AI models and uncover the rationale behind their decisions. One of the models gaining attention are probabilistic circuits (PCs), which are a general and unified framework for tractable probabilistic models that support efficient computation of various probabilistic queries. Probabilistic circuits guarantee inference that is polynomial in the size of the circuit. In this paper, we improve the explainability of probabilistic circuits by computing a comprehensible, readable logical theory that covers the high-density regions generated by a PC. To achieve this, pruning approaches based on generative significance are used in a new method called PUTPUT (Probabilistic circuit Understanding Through Pruning Underlying logical Theories). The method is applied to a real world use case where music playlists are automatically generated and expressed as readable (database) queries. Evaluation shows that this approach can effectively produce a comprehensible logical theory that describes the high-density regions of a PC and outperforms state of the art methods when exploring the performance-comprehensibility trade-off.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google