Explaining Black-Box Models through Counterfactuals

要約

私たちは、Julia のブラックボックス モデルの反事実説明 (CE) とアルゴリズム リソース (AR) を生成するためのパッケージである Counterfactual Explains.jl を紹介します。
CE は、特定のモデルを予測するためにモデルへの入力をどのように変更する必要があるかを説明します。
現実的で実行可能な変化を含む説明は、AR を提供するために使用できます。これは、個人が望ましくない結果をより良い方向に変えるために提案される一連のアクションです。
この記事では、説明可能な人工知能における CE の有用性について説明し、パッケージの機能を示します。
このパッケージは使いやすく、カスタマイズと拡張性に重点を置いて設計されています。
私たちは、これがいつか反事実ジェネレーターの多様なスイートを通じて Julia の任意の予測モデルを説明するための頼りになる場所になることを構想しています。

要約(オリジナル)

We present CounterfactualExplanations.jl: a package for generating Counterfactual Explanations (CE) and Algorithmic Recourse (AR) for black-box models in Julia. CE explain how inputs into a model need to change to yield specific model predictions. Explanations that involve realistic and actionable changes can be used to provide AR: a set of proposed actions for individuals to change an undesirable outcome for the better. In this article, we discuss the usefulness of CE for Explainable Artificial Intelligence and demonstrate the functionality of our package. The package is straightforward to use and designed with a focus on customization and extensibility. We envision it to one day be the go-to place for explaining arbitrary predictive models in Julia through a diverse suite of counterfactual generators.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google