SpecXAI — Spectral interpretability of Deep Learning Models

要約

ディープ ラーニングは、大量のデータを高性能モデルに変換できるため、ビジネスや業界でますます採用されるようになっています。
ただし、これらのモデルは一般にブラック ボックスと見なされており、そのパフォーマンスにもかかわらず、使用が妨げられる可能性があります。
このコンテキストでは、説明可能な AI の分野では、モデルの難解な性質を和らげ、モデルの動作の理解レベルを促進する技術を開発しようとしています。
ここでは、ネットワーク全体のスペクトル特性に基づく SpecXAI と呼ばれるフレームワークの形で、XAI メソッドへの貢献を紹介します。
このフレームワークを使用して、ネットワークを理解するだけでなく、ネットワークを線形の解釈可能な記号表現に操作する方法を示します。

要約(オリジナル)

Deep learning is becoming increasingly adopted in business and industry due to its ability to transform large quantities of data into high-performing models. These models, however, are generally regarded as black boxes, which, in spite of their performance, could prevent their use. In this context, the field of eXplainable AI attempts to develop techniques that temper the impenetrable nature of the models and promote a level of understanding of their behavior. Here we present our contribution to XAI methods in the form of a framework that we term SpecXAI, which is based on the spectral characterization of the entire network. We show how this framework can be used to not only understand the network but also manipulate it into a linear interpretable symbolic representation.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google