Using Stratified Sampling to Improve LIME Image Explanations

要約

私たちは、典型的なモンテカルロ サンプリングによって生成されるアーティファクトを削減するために、コンピューター ビジョン タスク用の人気のあるモデルに依存しない説明可能な AI 手法である LIME Image に対する層化サンプリング アプローチの使用を調査します。
このようなアーティファクトは、説明対象の画像の周囲の合成近傍における従属変数のアンダーサンプリングが原因であり、サンプリングされたデータに線形回帰変数を当てはめることが不可能なため、不適切な説明が生じる可能性があります。
次に、アンダーサンプリングとサンプルの関連性に関する同様の議論が過去に提案された、シャプレー理論との関連性を強調します。
不偏層化サンプリング推定器に必要なすべての式と調整係数を導き出します。
実験により、提案されたアプローチの有効性が示されています。

要約(オリジナル)

We investigate the use of a stratified sampling approach for LIME Image, a popular model-agnostic explainable AI method for computer vision tasks, in order to reduce the artifacts generated by typical Monte Carlo sampling. Such artifacts are due to the undersampling of the dependent variable in the synthetic neighborhood around the image being explained, which may result in inadequate explanations due to the impossibility of fitting a linear regressor on the sampled data. We then highlight a connection with the Shapley theory, where similar arguments about undersampling and sample relevance were suggested in the past. We derive all the formulas and adjustment factors required for an unbiased stratified sampling estimator. Experiments show the efficacy of the proposed approach.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google