Reconnoitering the class distinguishing abilities of the features, to know them better

要約

私たちの日常生活における機械学習 (ML) の関連性は、その説明可能性と密接に絡み合っています。
説明可能性により、エンドユーザーは ML スキームの機能と有用性について、透明で人道的な計算を行うことができます。
また、システムの自動化された決定に対するユーザーの信頼も育みます。
モデルの決定を説明する変数または機能を説明することは、現在の必要性です。
クラス識別能力に基づいて機能を説明する研究を実際に見つけることができませんでした（特に、現実世界のデータがほとんどマルチクラスの性質のものである場合）。
どのようなデータセットでも、特徴は、データ ポイントのさまざまな分類 (またはクラス) を区別するのに適しているわけではありません。
この作業では、クラスまたはカテゴリを区別する機能に基づいて機能を説明します。
特に、ペアごとのクラスの組み合わせの変数のクラス識別能力 (スコア) を推定します。
いくつかの現実世界のマルチクラス データセットで、スキームによって得られる説明可能性を実証的に検証します。
さらに、潜在的な特徴のコンテキストでクラス識別スコアを利用し、新しい意思決定プロトコルを提案します。
この作業のもう 1 つの目新しさは、(テスト ポイントの) 潜在変数が可能性の高いクラスのクラスを区別する可能性が高い場合の \emph{refuse to render decision} オプションにあります。

要約(オリジナル)

The relevance of machine learning (ML) in our daily lives is closely intertwined with its explainability. Explainability can allow end-users to have a transparent and humane reckoning of a ML scheme’s capability and utility. It will also foster the user’s confidence in the automated decisions of a system. Explaining the variables or features to explain a model’s decision is a need of the present times. We could not really find any work, which explains the features on the basis of their class-distinguishing abilities (specially when the real world data are mostly of multi-class nature). In any given dataset, a feature is not equally good at making distinctions between the different possible categorizations (or classes) of the data points. In this work, we explain the features on the basis of their class or category-distinguishing capabilities. We particularly estimate the class-distinguishing capabilities (scores) of the variables for pair-wise class combinations. We validate the explainability given by our scheme empirically on several real-world, multi-class datasets. We further utilize the class-distinguishing scores in a latent feature context and propose a novel decision making protocol. Another novelty of this work lies with a \emph{refuse to render decision} option when the latent variable (of the test point) has a high class-distinguishing potential for the likely classes.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google