Grouping Shapley Value Feature Importances of Random Forests for explainable Yield Prediction

要約

タイトル：
-ランダムフォレストのShapley Value特徴量のグループ分けによる説明可能な収量予測

要約：
-収量予測の説明可能性は、既に高精度を実現できる機械学習モデルの可能性を完全に活用できるようにします。
-収量予測のために含まれるデータは複雑で、モデルを理解することはしばしば困難です。
-しかし、入力特徴の自然なグループ化を使用することで、モデルの理解を簡略化することができます。
-グループ化は、特徴がキャプチャされた時間や使用されたセンサーによって達成できます。
-機械学習モデルの解釈の最新の状態は、Shapley値のゲーム理論的アプローチによって定義されています。
-特徴のグループを扱うためには、計算されたShapley値は通常、理論的制限を無視して加算されます。
-我々は、事前に定義された特徴のグループに直接計算されたShapley値の概念を説明し、効率的に木構造上で計算するためのアルゴリズムを紹介します。
-多くのローカル説明を組み合わせてグローバルな理解を実現するためのスワームプロットの設計のための青写真を提供します。
-2つの異なる収量予測問題の広範な評価は、我々のアプローチの価値を示し、将来の収量予測モデルの理解を促進し、研究と応用の相互豊かさをもたらすことを示しています。

要約(オリジナル)

Explainability in yield prediction helps us fully explore the potential of machine learning models that are already able to achieve high accuracy for a variety of yield prediction scenarios. The data included for the prediction of yields are intricate and the models are often difficult to understand. However, understanding the models can be simplified by using natural groupings of the input features. Grouping can be achieved, for example, by the time the features are captured or by the sensor used to do so. The state-of-the-art for interpreting machine learning models is currently defined by the game-theoretic approach of Shapley values. To handle groups of features, the calculated Shapley values are typically added together, ignoring the theoretical limitations of this approach. We explain the concept of Shapley values directly computed for predefined groups of features and introduce an algorithm to compute them efficiently on tree structures. We provide a blueprint for designing swarm plots that combine many local explanations for global understanding. Extensive evaluation of two different yield prediction problems shows the worth of our approach and demonstrates how we can enable a better understanding of yield prediction models in the future, ultimately leading to mutual enrichment of research and application.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI