Towards a general framework for improving the performance of classifiers using XAI methods

要約

最新の人工知能 (AI) システム、特にディープラーニング (DL) モデルは、AI 研究者が内部の仕組みを理解する際に課題を引き起こしています。
eXplainable Artificial Intelligence (XAI) は、AI モデルの内部メカニズムを検査し、その決定に関する説明を提供します。
現在の XAI 研究は主に AI システムの説明に集中していますが、XAI 技術を使用して AI システム自体のパフォーマンスを自動的に向上させることへの関心が高まっています。
この論文では、XAI メソッドを使用して事前トレーニングされた DL 分類器のパフォーマンスを自動的に向上させ、複雑なモデルを最初から再トレーニングすることに伴う計算オーバーヘッドを回避するための一般的なフレームワークを提案します。
特に、このアーキテクチャを実装するための 2 つの異なる学習戦略 (自動エンコーダ ベースとエンコーダ デコーダ ベースと呼ぶ) の可能性を概説し、それらの主要な側面について説明します。

要約(オリジナル)

Modern Artificial Intelligence (AI) systems, especially Deep Learning (DL) models, poses challenges in understanding their inner workings by AI researchers. eXplainable Artificial Intelligence (XAI) inspects internal mechanisms of AI models providing explanations about their decisions. While current XAI research predominantly concentrates on explaining AI systems, there is a growing interest in using XAI techniques to automatically improve the performance of AI systems themselves. This paper proposes a general framework for automatically improving the performance of pre-trained DL classifiers using XAI methods, avoiding the computational overhead associated with retraining complex models from scratch. In particular, we outline the possibility of two different learning strategies for implementing this architecture, which we will call auto-encoder-based and encoder-decoder-based, and discuss their key aspects.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google