PnPXAI: A Universal XAI Framework Providing Automatic Explanations Across Diverse Modalities and Models

要約

最近、モデルの出力を入力機能に帰属させることにより、モデルの透明度を高めるために、事後説明方法が登場しました。
ただし、これらの方法は、特定のニューラルネットワークアーキテクチャとデータモダリティに対する特異性のため、課題に直面しています。
既存の説明可能な人工知能（XAI）フレームワークは、これらの課題に対処しようとしましたが、いくつかの制限に苦しんでいます。
これらには、ハードコード化された実装による多様なモデルアーキテクチャおよびデータモダリティに対する限られた柔軟性、帰属方法の層固有の操作の要件のためのサポートされているXaiメソッドの制限、および評価と最適化フェーズの欠如による説明の最適な推奨事項が含まれます。
その結果、これらの制限により、実際のアプリケーションでXAIテクノロジーの採用が妨げられ、開業医がドメインの最適な説明方法を選択することが困難になります。
これらの制限に対処するために、プラグアンドプレイ（PNP）の方法で多様なデータモダリティとニューラルネットワークモデルをサポートするユニバーサルXAIフレームワークである\ textBf {pnpxai}を導入します。
PNPXAIは、モデルアーキテクチャを自動的に検出し、該当する説明方法を推奨し、最適な説明のためにハイパーパラメーターを最適化します。
ユーザー調査を通じてフレームワークの有効性を検証し、医学や金融など、さまざまなドメインにわたってその汎用性を紹介します。

要約(オリジナル)

Recently, post hoc explanation methods have emerged to enhance model transparency by attributing model outputs to input features. However, these methods face challenges due to their specificity to certain neural network architectures and data modalities. Existing explainable artificial intelligence (XAI) frameworks have attempted to address these challenges but suffer from several limitations. These include limited flexibility to diverse model architectures and data modalities due to hard-coded implementations, a restricted number of supported XAI methods because of the requirements for layer-specific operations of attribution methods, and sub-optimal recommendations of explanations due to the lack of evaluation and optimization phases. Consequently, these limitations impede the adoption of XAI technology in real-world applications, making it difficult for practitioners to select the optimal explanation method for their domain. To address these limitations, we introduce \textbf{PnPXAI}, a universal XAI framework that supports diverse data modalities and neural network models in a Plug-and-Play (PnP) manner. PnPXAI automatically detects model architectures, recommends applicable explanation methods, and optimizes hyperparameters for optimal explanations. We validate the framework’s effectiveness through user surveys and showcase its versatility across various domains, including medicine and finance.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google