OmniXAI: A Library for Explainable AI

要約

OmniXAI（Omni eXplainable AIの略）を紹介します。これは、eXplainable AI（XAI）のオープンソースPythonライブラリであり、オムニウェイで説明可能なAI機能と、行われた決定の理解と解釈の問題点に対処するためのさまざまな解釈可能な機械学習技術を提供します。
実際には機械学習（ML）によって。
OmniXAIは、データサイエンティスト、ML研究者、およびMLプロセスのさまざまな段階（データ探索、特徴工学、モデル
開発、評価、意思決定など）。
特に、私たちのライブラリには、複数のデータタイプ（表形式のデータ、画像、テキスト、時系列）、複数のタイプのMLモデル（Scikit-learnおよびdeepの従来のML）をサポートする、統合されたインターフェースに統合された豊富な説明メソッドファミリーが含まれています
PyTorch / TensorFlowでモデルを学習する）、および「モデル固有」および「モデルに依存しない」方法（特徴属性の説明、反事実の説明、勾配ベースの説明など）を含むさまざまな説明方法。
開業医向けに、ライブラリは、数行のコードを記述するだけでアプリケーションの説明を生成するための使いやすい統合インターフェイスと、さまざまな説明を視覚化して決定に関する洞察を深めるためのGUIダッシュボードを提供します。
このテクニカルレポートでは、OmniXAIの設計原則、システムアーキテクチャ、および主要な機能を紹介し、さまざまなタイプのデータ、タスク、およびモデルにわたるいくつかの使用例を示します。

要約(オリジナル)

We introduce OmniXAI (short for Omni eXplainable AI), an open-source Python library of eXplainable AI (XAI), which offers omni-way explainable AI capabilities and various interpretable machine learning techniques to address the pain points of understanding and interpreting the decisions made by machine learning (ML) in practice. OmniXAI aims to be a one-stop comprehensive library that makes explainable AI easy for data scientists, ML researchers and practitioners who need explanation for various types of data, models and explanation methods at different stages of ML process (data exploration, feature engineering, model development, evaluation, and decision-making, etc). In particular, our library includes a rich family of explanation methods integrated in a unified interface, which supports multiple data types (tabular data, images, texts, time-series), multiple types of ML models (traditional ML in Scikit-learn and deep learning models in PyTorch/TensorFlow), and a range of diverse explanation methods including ‘model-specific’ and ‘model-agnostic’ ones (such as feature-attribution explanation, counterfactual explanation, gradient-based explanation, etc). For practitioners, the library provides an easy-to-use unified interface to generate the explanations for their applications by only writing a few lines of codes, and also a GUI dashboard for visualization of different explanations for more insights about decisions. In this technical report, we present OmniXAI’s design principles, system architectures, and major functionalities, and also demonstrate several example use cases across different types of data, tasks, and models.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google