Towards Axiomatic, Hierarchical, and Symbolic Explanation for Deep Models

要約

この論文の目的は、深いモデルの推論ロジックが疎なシンボリック因果グラフとして忠実に近似できることを示すことです。
このような因果グラフは、コネクショニズムとシンボリズムの間のギャップを埋める可能性があります。
この目的のために、因果グラフの忠実性は理論的に保証されています。これは、因果グラフが指数関数的な数の異なるマスクされたサンプルでモデルの出力をよく模倣できることを示しているためです。
さらに、このような因果グラフはさらに単純化して And-Or グラフ (AOG) として書き直すことができます。これは、説明の精度をあまり失うことなく、ディープ モデルによってエンコードされたインタラクティブな概念間の論理関係を説明します。

要約(オリジナル)

This paper aims to show that the inference logic of a deep model can be faithfully approximated as a sparse, symbolic causal graph. Such a causal graph potentially bridges the gap between connectionism and symbolism. To this end, the faithfulness of the causal graph is theoretically guaranteed, because we show that the causal graph can well mimic the model’s output on an exponential number of different masked samples. Besides, such a causal graph can be further simplified and re-written as an And-Or graph (AOG), which explains the logical relationship between interactive concepts encoded by the deep model, without losing much explanation accuracy.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google