Understanding XAI Through the Philosopher’s Lens: A Historical Perspective

要約

Explainable AI (XAI) が最近注目の話題となり、いくつかの異なるアプローチが開発されているにもかかわらず、説得力のある統一基盤が欠けているという考えが依然として広く広まっています。
その一方で、過去数世紀にわたり、科学法則の文脈における「なぜ」という根本的な問題に対処するために、説明という概念自体が広範な哲学的分析の対象となってきました。
ただし、この議論が XAI に関連付けられることはほとんどありません。
この論文はこのギャップを埋めることを試み、認識論的レンズを通して AI における説明の概念を探求することを目的としています。
科学哲学と AI の両方の歴史的発展を比較すると、興味深い全体像が浮かび上がってきます。
具体的には、論理演繹的説明モデルから統計的説明モデルへの段階的な進展が両方の領域で独立して起こり、それによってどちらの場合でも決定論的因果関係から非決定論的および確率論的因果関係へのパラダイムシフトが経験されることを示します。
興味深いことに、例えば説明と理解の関係や実用的な要素の重要性など、同様の概念が両方の領域で独立して出現していることにも気づきました。
私たちの研究は、AI における説明の概念の哲学的基礎を理解するための第一歩となることを目指しており、私たちの調査結果が XAI のとらえどころのない性質に新たな光を当てることを願っています。

要約(オリジナル)

Despite explainable AI (XAI) has recently become a hot topic and several different approaches have been developed, there is still a widespread belief that it lacks a convincing unifying foundation. On the other hand, over the past centuries, the very concept of explanation has been the subject of extensive philosophical analysis in an attempt to address the fundamental question of ‘why’ in the context of scientific law. However, this discussion has rarely been connected with XAI. This paper tries to fill in this gap and aims to explore the concept of explanation in AI through an epistemological lens. By comparing the historical development of both the philosophy of science and AI, an intriguing picture emerges. Specifically, we show that a gradual progression has independently occurred in both domains from logical-deductive to statistical models of explanation, thereby experiencing in both cases a paradigm shift from deterministic to nondeterministic and probabilistic causality. Interestingly, we also notice that similar concepts have independently emerged in both realms such as, for example, the relation between explanation and understanding and the importance of pragmatic factors. Our study aims to be the first step towards understanding the philosophical underpinnings of the notion of explanation in AI, and we hope that our findings will shed some fresh light on the elusive nature of XAI.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google