Providing Error Detection for Deep Learning Image Classifiers Using Self-Explainability

要約

この論文では、自己エラー検出を実行する画像分類問題のための自己説明可能な深層学習 (SE-DL) システムを提案します。
自己エラー検出は、特に自動車システムなどの安全性が重要なアプリケーションにおいて、DL システムの安全な動作を改善するための鍵となります。
SE-DL システムは、クラス予測とその予測の説明の両方を出力します。これにより、システムが人間に対してどのように予測を行うかについての洞察が得られます。
さらに、提案された SE-DL システムの説明を活用して、システムの潜在的なクラス予測エラーを検出します。
提案された SE-DL システムは、一連の概念を使用して説明を生成します。
概念は、その画像の上位クラスに関連する各入力画像の人間が理解できる下位レベルの画像特徴です。
すべての概念をスコアリングし、提案された SE-DL システムのエラー検出パフォーマンスへの貢献に基づいてそれらのサブセットを選択するための概念選択方法を提示します。
最後に、提案された SE-DL システムを使用したさまざまなエラー検出方式を提示し、SE-DL システムを使用しないエラー検出方式と比較します。

要約(オリジナル)

This paper proposes a self-explainable Deep Learning (SE-DL) system for an image classification problem that performs self-error detection. The self-error detection is key to improving the DL system’s safe operation, especially in safety-critical applications such as automotive systems. A SE-DL system outputs both the class prediction and an explanation for that prediction, which provides insight into how the system makes its predictions for humans. Additionally, we leverage the explanation of the proposed SE-DL system to detect potential class prediction errors of the system. The proposed SE-DL system uses a set of concepts to generate the explanation. The concepts are human-understandable lower-level image features in each input image relevant to the higher-level class of that image. We present a concept selection methodology for scoring all concepts and selecting a subset of them based on their contribution to the error detection performance of the proposed SE-DL system. Finally, we present different error detection schemes using the proposed SE-DL system to compare them against an error detection scheme without any SE-DL system.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google