OmniXAI: A Library for Explainable AI

要約

機械学習(ML)による意思決定を理解し、解釈することのペインポイントを実践的に解決するために、オムニウェイで説明可能なAI機能と様々な解釈可能な機械学習技術を提供するeXplainable AI (XAI: Omni eXplainable AI) のオープンソースのPythonライブラリーを紹介します。OmniXAIは、MLプロセスの様々な段階（データ探索、特徴量エンジニアリング、モデル開発、評価、意思決定など）において、様々な種類のデータ、モデル、説明手法に対する説明を必要とするデータサイエンティスト、ML研究者、実務家にとって、説明できるAIを容易にするワンストップ総合ライブラリになることを目指しています。特に、本ライブラリは、複数のデータ型（表データ、画像、テキスト、時系列）、複数のMLモデル（Scikit-learnの伝統的MLとPyTorch/TensorFlowの深層学習モデル）、「モデル固有」「モデル非固有」を含む多様な説明手法（特徴量説明、反事実説明、勾配ベース説明など）を統合し、統一インターフェースに集約されているため、豊かな説明手法が提供されています。本ライブラリは、実務家向けに、数行のコードを書くだけでアプリケーションの説明を生成できる使いやすい統一インターフェースと、意思決定に関するより深い洞察を得るために様々な説明を視覚化するためのGUIダッシュボードを提供するものである。本報告書では、OmniXAIの設計方針、システムアーキテクチャ、主要機能を紹介するとともに、様々な種類のデータ、タスク、モデルに対するユースケースの例を示す。

要約(オリジナル)

We introduce OmniXAI (short for Omni eXplainable AI), an open-source Python library of eXplainable AI (XAI), which offers omni-way explainable AI capabilities and various interpretable machine learning techniques to address the pain points of understanding and interpreting the decisions made by machine learning (ML) in practice. OmniXAI aims to be a one-stop comprehensive library that makes explainable AI easy for data scientists, ML researchers and practitioners who need explanation for various types of data, models and explanation methods at different stages of ML process (data exploration, feature engineering, model development, evaluation, and decision-making, etc). In particular, our library includes a rich family of explanation methods integrated in a unified interface, which supports multiple data types (tabular data, images, texts, time-series), multiple types of ML models (traditional ML in Scikit-learn and deep learning models in PyTorch/TensorFlow), and a range of diverse explanation methods including ‘model-specific’ and ‘model-agnostic’ ones (such as feature-attribution explanation, counterfactual explanation, gradient-based explanation, etc). For practitioners, the library provides an easy-to-use unified interface to generate the explanations for their applications by only writing a few lines of codes, and also a GUI dashboard for visualization of different explanations for more insights about decisions. In this technical report, we present OmniXAI’s design principles, system architectures, and major functionalities, and also demonstrate several example use cases across different types of data, tasks, and models.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL