Optimizing Explanations by Network Canonization and Hyperparameter Search

要約

説明可能な AI (XAI) は、多くの AI アプリケーションにとって重要なコンポーネントになりつつあります。
ただし、ルールベースおよび修正された逆伝播 XAI アプローチは、革新的なレイヤー ビルディング ブロックを含む最新のモデル アーキテクチャに適用する際に、2 つの理由で発生する課題に直面することがよくあります。
まず、ルールベースの XAI メソッドの高い柔軟性により、多数の潜在的なパラメーター化が可能になります。
第 2 に、多くの XAI メソッドは、BatchNorm レイヤーなどの特定のモデル コンポーネントと格闘するため、実装不変性の公理を破ります。
後者は、モデルの正規化によって対処できます。これは、モデルを再構築して、基になる機能を変更せずに問題のあるコンポーネントを無視するプロセスです。
モデルの正規化は単純なアーキテクチャ (VGG、ResNet など) では簡単ですが、より複雑で高度に相互接続されたモデル (DenseNet など) では困難な場合があります。
さらに、モデルの正規化が XAI にとって有益であるという定量化可能な証拠はほとんどありません。
この作業では、VGG、ResNet、EfficientNet、DenseNets、および Relation Networks を含む、一般的なディープ ニューラル ネットワーク アーキテクチャに適用可能な現在関連するモデル ブロックの正規化を提案します。
さらに、Pascal-VOC および ILSVRC2017 データセットでの画像分類タスクにおけるさまざまな XAI メソッド、および CLEVR-XAI を使用した視覚的質問応答について、sof モデル正規化の効果を定量化および比較する XAI 評価フレームワークを提案します。
さらに、上記で概説した前者の問題に対処し、評価フレームワークを適用して XAI メソッドのハイパーパラメーター検索を実行し、説明の品質を最適化する方法を示します。

要約(オリジナル)

Explainable AI (XAI) is slowly becoming a key component for many AI applications. Rule-based and modified backpropagation XAI approaches however often face challenges when being applied to modern model architectures including innovative layer building blocks, which is caused by two reasons. Firstly, the high flexibility of rule-based XAI methods leads to numerous potential parameterizations. Secondly, many XAI methods break the implementation-invariance axiom because they struggle with certain model components, e.g., BatchNorm layers. The latter can be addressed with model canonization, which is the process of re-structuring the model to disregard problematic components without changing the underlying function. While model canonization is straightforward for simple architectures (e.g., VGG, ResNet), it can be challenging for more complex and highly interconnected models (e.g., DenseNet). Moreover, there is only little quantifiable evidence that model canonization is beneficial for XAI. In this work, we propose canonizations for currently relevant model blocks applicable to popular deep neural network architectures,including VGG, ResNet, EfficientNet, DenseNets, as well as Relation Networks. We further suggest a XAI evaluation framework with which we quantify and compare the effect sof model canonization for various XAI methods in image classification tasks on the Pascal-VOC and ILSVRC2017 datasets, as well as for Visual Question Answering using CLEVR-XAI. Moreover, addressing the former issue outlined above, we demonstrate how our evaluation framework can be applied to perform hyperparameter search for XAI methods to optimize the quality of explanations.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google