The Weighting Game: Evaluating Quality of Explainability Methods

要約

このホワイト ペーパーの目的は、画像分類タスクの説明ヒートマップの品質を評価することです。
説明可能性の方法の品質を評価するために、精度と安定性のレンズを通してタスクに取り組みます。
この作業では、次の貢献を行います。
最初に、重み付けゲームを紹介します。これは、クラスに誘導された説明が正しいクラスのセグメンテーション マスク内にどれだけ含まれているかを測定します。
次に、ズーム/パン変換を使用して、同様のコンテンツを持つ顕著性マップ間の違いを測定する、説明の安定性のメトリックを導入します。
これらの新しい測定基準を使用して定量的実験が行われ、一般的に使用される CAM 法によって提供される説明の質が評価されます。
説明の質も異なるモデル アーキテクチャ間で対照的であり、説明可能性の方法を選択する際にモデル アーキテクチャを考慮する必要性が強調されています。

要約(オリジナル)

The objective of this paper is to assess the quality of explanation heatmaps for image classification tasks. To assess the quality of explainability methods, we approach the task through the lens of accuracy and stability. In this work, we make the following contributions. Firstly, we introduce the Weighting Game, which measures how much of a class-guided explanation is contained within the correct class’ segmentation mask. Secondly, we introduce a metric for explanation stability, using zooming/panning transformations to measure differences between saliency maps with similar contents. Quantitative experiments are produced, using these new metrics, to evaluate the quality of explanations provided by commonly used CAM methods. The quality of explanations is also contrasted between different model architectures, with findings highlighting the need to consider model architecture when choosing an explainability method.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google