Pyreal: A Framework for Interpretable ML Explanations

要約

多くのドメインのユーザーは、意思決定を支援するために機械学習 (ML) 予測を使用しています。
効果的な ML ベースの意思決定には、多くの場合、ML モデルとその予測の説明が必要です。
モデルを説明するアルゴリズムは多数ありますが、意思決定者にとって理解しやすく役立つ形式で説明を生成することは、多大な開発オーバーヘッドを必要とする可能性がある重要なタスクです。
私たちは、解釈可能なさまざまな ML 説明を生成するための、対応する Python 実装を備えた拡張性の高いシステムである Pyreal を開発しました。
Pyreal は、モデルが期待する特徴空間、関連する説明アルゴリズム、および人間のユーザーの間でデータと説明を変換し、ユーザーがローコードの方法で解釈可能な説明を生成できるようにします。
私たちの研究は、Pyreal が使いやすさと効率性を維持しながら、既存のシステムよりも有用な説明を生成することを示しています。

要約(オリジナル)

Users in many domains use machine learning (ML) predictions to help them make decisions. Effective ML-based decision-making often requires explanations of ML models and their predictions. While there are many algorithms that explain models, generating explanations in a format that is comprehensible and useful to decision-makers is a nontrivial task that can require extensive development overhead. We developed Pyreal, a highly extensible system with a corresponding Python implementation for generating a variety of interpretable ML explanations. Pyreal converts data and explanations between the feature spaces expected by the model, relevant explanation algorithms, and human users, allowing users to generate interpretable explanations in a low-code manner. Our studies demonstrate that Pyreal generates more useful explanations than existing systems while remaining both easy-to-use and efficient.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google