OmniXAI: A Library for Explainable AI

要約

OmniXAI (Omni eXplainable AI の略) を紹介します。これは、eXplainable AI (XAI) のオープンソース Python ライブラリであり、オムニウェイの説明可能な AI 機能とさまざまな解釈可能な機械学習手法を提供し、下された決定の理解と解釈の問題点に対処します。
実際には機械学習 (ML) によって。
OmniXAI は、ML プロセスのさまざまな段階 (データ探索、特徴量エンジニアリング、モデル、
開発、評価、意思決定など）。
特に、私たちのライブラリには、複数のデータ型 (表形式のデータ、画像、テキスト、時系列)、複数の型の ML モデル (Scikit-learn の従来の ML とディープ
PyTorch/TensorFlow でモデルを学習する)、および「モデル固有」および「モデルに依存しない」ものを含むさまざまな説明方法 (特徴属性の説明、反事実の説明、勾配ベースの説明など)。
実践者にとって、このライブラリは、数行のコードを記述するだけでアプリケーションの説明を生成するための使いやすい統合インターフェイスと、決定に関するより多くの洞察を得るためのさまざまな説明を視覚化するための GUI ダッシュボードを提供します。
このテクニカル レポートでは、OmniXAI の設計原則、システム アーキテクチャ、および主要な機能を紹介し、さまざまなタイプのデータ、タスク、およびモデルにわたる使用例をいくつか示します。

要約(オリジナル)

We introduce OmniXAI (short for Omni eXplainable AI), an open-source Python library of eXplainable AI (XAI), which offers omni-way explainable AI capabilities and various interpretable machine learning techniques to address the pain points of understanding and interpreting the decisions made by machine learning (ML) in practice. OmniXAI aims to be a one-stop comprehensive library that makes explainable AI easy for data scientists, ML researchers and practitioners who need explanation for various types of data, models and explanation methods at different stages of ML process (data exploration, feature engineering, model development, evaluation, and decision-making, etc). In particular, our library includes a rich family of explanation methods integrated in a unified interface, which supports multiple data types (tabular data, images, texts, time-series), multiple types of ML models (traditional ML in Scikit-learn and deep learning models in PyTorch/TensorFlow), and a range of diverse explanation methods including ‘model-specific’ and ‘model-agnostic’ ones (such as feature-attribution explanation, counterfactual explanation, gradient-based explanation, etc). For practitioners, the library provides an easy-to-use unified interface to generate the explanations for their applications by only writing a few lines of codes, and also a GUI dashboard for visualization of different explanations for more insights about decisions. In this technical report, we present OmniXAI’s design principles, system architectures, and major functionalities, and also demonstrate several example use cases across different types of data, tasks, and models.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google