WebSHAP: Towards Explaining Any Machine Learning Models Anywhere

要約

機械学習 (ML) が日常の Web エクスペリエンスにますます統合されるにつれて、透過的で説明可能な Web ベースの ML が求められています。
ただし、既存の説明可能性技術は専用のバックエンド サーバーを必要とすることが多く、Web コミュニティが低レイテンシとプライバシー保護のためにブラウザー内 ML に移行するにつれて、その有用性が制限されます。
クライアント側の説明可能性ソリューションの差し迫った必要性に対処するために、WebSHAP を提示します。これは、最先端のモデルに依存しない説明可能性技術 SHAP を Web 環境に適応させる最初のブラウザー内ツールです。
当社のオープンソース ツールは、クライアント側のハードウェア機能を活用し、既存の Web ML アプリケーションへの統合を容易にする WebGL などの最新の Web テクノロジを使用して開発されています。
ML ベースのローン承認の決定をローン申請者に説明する使用シナリオで WebSHAP をデモンストレーションします。
私たちの仕事を振り返りながら、透過的な Web ML に関する将来の研究の機会と課題について話し合います。
WebSHAP は https://github.com/poloclub/webshap で入手できます。

要約(オリジナル)

As machine learning (ML) is increasingly integrated into our everyday Web experience, there is a call for transparent and explainable web-based ML. However, existing explainability techniques often require dedicated backend servers, which limit their usefulness as the Web community moves toward in-browser ML for lower latency and greater privacy. To address the pressing need for a client-side explainability solution, we present WebSHAP, the first in-browser tool that adapts the state-of-the-art model-agnostic explainability technique SHAP to the Web environment. Our open-source tool is developed with modern Web technologies such as WebGL that leverage client-side hardware capabilities and make it easy to integrate into existing Web ML applications. We demonstrate WebSHAP in a usage scenario of explaining ML-based loan approval decisions to loan applicants. Reflecting on our work, we discuss the opportunities and challenges for future research on transparent Web ML. WebSHAP is available at https://github.com/poloclub/webshap.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google