Explainable AI in Spatial Analysis

要約

この章では、空間分析の領域内で説明可能な人工知能（XAI）の機会について説明します。
空間分析の重要な目的は、空間的関係をモデル化し、空間データから知識を生成するための空間プロセスを推測することです。これは主に空間統計的方法に基づいています。
最近では、機械学習は、従来の方法を補完するスケーラブルで柔軟なアプローチを提供し、空間データサイエンスにますます適用されています。
その利点にもかかわらず、機械学習はしばしばブラックボックスであると批判されており、モデルの動作と出力の理解を制限します。
この制限を認識して、XaiはAIの極めて重要な分野として浮上しており、透明性と理解を高めるための機械学習モデルの出力を説明する方法を提供しています。
これらの方法は、モデル診断、バイアス検出、および機械学習モデルから得られた結果の信頼性を確保するために重要です。
この章では、Shapleyの価値ベースのアプローチに焦点を当てたXaiの重要な概念と方法を紹介します。これは、おそらく最も人気のあるXaiメソッドであり、空間分析との統合です。
2020年の大統領選挙における郡レベルの投票行動の実証的な例が提示され、Shapleyの価値と空間分析の使用を実証し、地理的に重み付けされた複数の回帰と比較しています。
この章では、現在のXaiテクニックの課題と制限に関する議論で締めくくり、新しい方向性を提案します。

要約(オリジナル)

This chapter discusses the opportunities of eXplainable Artificial Intelligence (XAI) within the realm of spatial analysis. A key objective in spatial analysis is to model spatial relationships and infer spatial processes to generate knowledge from spatial data, which has been largely based on spatial statistical methods. More recently, machine learning offers scalable and flexible approaches that complement traditional methods and has been increasingly applied in spatial data science. Despite its advantages, machine learning is often criticized for being a black box, which limits our understanding of model behavior and output. Recognizing this limitation, XAI has emerged as a pivotal field in AI that provides methods to explain the output of machine learning models to enhance transparency and understanding. These methods are crucial for model diagnosis, bias detection, and ensuring the reliability of results obtained from machine learning models. This chapter introduces key concepts and methods in XAI with a focus on Shapley value-based approaches, which is arguably the most popular XAI method, and their integration with spatial analysis. An empirical example of county-level voting behaviors in the 2020 Presidential election is presented to demonstrate the use of Shapley values and spatial analysis with a comparison to multi-scale geographically weighted regression. The chapter concludes with a discussion on the challenges and limitations of current XAI techniques and proposes new directions.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google