iSAGE: An Incremental Version of SAGE for Online Explanation on Data Streams

要約

説明可能な人工知能 (XAI) は、主にバッチ学習シナリオに焦点を当てています。
静的学習タスクでは、SAGE などのさまざまな XAI メソッドが提案されており、モデルの重要性をその入力機能に分散させます。
ただし、モデルは、インクリメンタル ラーニングのように絶えず変化する動的な環境に適用されることがよくあります。
その結果、動的学習環境に適した SAGE の直接インクリメンタル化として iSAGE を提案します。
さらに、インクリメンタル設定での条件付きデータ分布に基づいて、モデル機能の削除に効率的な近似方法を提供します。
説明方法を正式に分析して、それが偏りのない推定量であることを示し、点推定値の信頼限界を構築します。
最後に、十分に確立されたデータ セットとコンセプト ドリフト ストリームに基づく徹底的な実験分析でアプローチを評価します。

要約(オリジナル)

Explainable Artificial Intelligence (XAI) focuses mainly on batch learning scenarios. In the static learning tasks, various XAI methods, like SAGE, have been proposed that distribute the importance of a model on its input features. However, models are often applied in ever-changing dynamic environments like incremental learning. As a result, we propose iSAGE as a direct incrementalization of SAGE suited for dynamic learning environments. We further provide an efficient approximation method to model feature removal based on the conditional data distribution in an incremental setting. We formally analyze our explanation method to show that it is an unbiased estimator and construct confidence bounds for the point estimates. Lastly, we evaluate our approach in a thorough experimental analysis based on well-established data sets and concept drift streams.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google