Rethinking Explainable Machine Learning as Applied Statistics

要約

説明アルゴリズムに関する文献が急速に増えているが、これらのアルゴリズムが何のためにあるのか、どのように使われるべきなのかが、しばしば不明確なままである。本ポジションペーパーでは、斬新で実用的な視点を主張する：説明可能な機械学習は、応用統計学との類似性を認識する必要がある。具体的には、説明は高次元関数の統計であり、伝統的な統計量と同様に考えるべきである。とりわけこのことは、解釈の問題、つまり人間が世界に対して抱く直感的な疑問と説明がどのように関連するかを注意深く考えなければならないことを意味している。このことが研究論文でほとんど議論されていないことが、現在の文献の主な欠点の一つである。幸いなことに、説明可能な機械学習と応用統計学の類似性は、研究実践をどのように改善できるかについて有益な方法を示唆している。

要約(オリジナル)

In the rapidly growing literature on explanation algorithms, it often remains unclear what precisely these algorithms are for and how they should be used. In this position paper, we argue for a novel and pragmatic perspective: Explainable machine learning needs to recognize its parallels with applied statistics. Concretely, explanations are statistics of high-dimensional functions, and we should think about them analogously to traditional statistical quantities. Among others, this implies that we must think carefully about the matter of interpretation, or how the explanations relate to intuitive questions that humans have about the world. The fact that this is scarcely being discussed in research papers is one of the main drawbacks of the current literature. Luckily, the analogy between explainable machine learning and applied statistics suggests fruitful ways for how research practices can be improved.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL