Fast Hierarchical Games for Image Explanations

要約

現代の複雑なニューラルネットワークが記録を更新し、より困難な問題を解決し続けるにつれ、その予測はますます分かりにくくなってきている。現在の解釈可能性の欠如は、敏感な環境における正確な機械学習ツールの展開をしばしば弱体化させる。本研究では、シャプレー係数の階層的拡張に基づく画像分類のためのモデル非依存的説明法–階層的シャプレー（h-Shap）–を提示し、現在のアプローチの限界のいくつかを解決する。他のシャプレーに基づく説明法と異なり，h-Shapはスケーラブルであり，近似を必要とせずに計算できる．複数インスタンス学習でよく見られるような特定の分布の仮定の下では、h-Shapは計算量を指数関数的に向上させながら正確なシャプレー係数を取り出すことができる。我々は、合成データセット、医療画像シナリオ、および一般的なコンピュータビジョン問題において、我々の階層的アプローチを一般的なシャプレーベースおよび非シャプレーベース手法と比較し、h-Shapが精度と実行時間の両方で最先端の技術を凌駕することを示す。コードと実験は一般に公開されています。

要約(オリジナル)

As modern complex neural networks keep breaking records and solving harder problems, their predictions also become less and less intelligible. The current lack of interpretability often undermines the deployment of accurate machine learning tools in sensitive settings. In this work, we present a model-agnostic explanation method for image classification based on a hierarchical extension of Shapley coefficients–Hierarchical Shap (h-Shap)–that resolves some of the limitations of current approaches. Unlike other Shapley-based explanation methods, h-Shap is scalable and can be computed without the need of approximation. Under certain distributional assumptions, such as those common in multiple instance learning, h-Shap retrieves the exact Shapley coefficients with an exponential improvement in computational complexity. We compare our hierarchical approach with popular Shapley-based and non-Shapley-based methods on a synthetic dataset, a medical imaging scenario, and a general computer vision problem, showing that h-Shap outperforms the state of the art in both accuracy and runtime. Code and experiments are made publicly available.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL