Probabilistic Scoring Lists for Interpretable Machine Learning

要約

スコアリング システムは、一連の特徴をチェックし、満たされた各特徴の合計スコアに特定のポイント数を追加し、最終的に合計スコアをしきい値と比較することによって決定を下す単純な意思決定モデルです。
スコアリング システムには、医療や司法などの安全性が重要な分野で積極的に使用されてきた長い歴史があり、客観的で正確な意思決定を行うための指針を提供します。
本物の解釈可能性を考えると、データからスコアリング システムを学習するというアイデアは、説明可能な AI の観点から明らかに魅力的です。
この論文では、確率的スコアリング リスト (PSL) と呼ばれるスコアリング システムの実用的な動機に基づいた拡張と、データから PSL を学習する方法を提案します。
PSL は、決定論的な決定を行うのではなく、確率分布、またはより一般的には確率間隔の形で不確実性を表します。
さらに、決定リストの精神に基づいて、PSL は機能を 1 つずつ評価し、十分な自信を持って決定が下されるとすぐに停止します。
私たちのアプローチを評価するために、医療分野でのケーススタディを実施します。

要約(オリジナル)

A scoring system is a simple decision model that checks a set of features, adds a certain number of points to a total score for each feature that is satisfied, and finally makes a decision by comparing the total score to a threshold. Scoring systems have a long history of active use in safety-critical domains such as healthcare and justice, where they provide guidance for making objective and accurate decisions. Given their genuine interpretability, the idea of learning scoring systems from data is obviously appealing from the perspective of explainable AI. In this paper, we propose a practically motivated extension of scoring systems called probabilistic scoring lists (PSL), as well as a method for learning PSLs from data. Instead of making a deterministic decision, a PSL represents uncertainty in the form of probability distributions, or, more generally, probability intervals. Moreover, in the spirit of decision lists, a PSL evaluates features one by one and stops as soon as a decision can be made with enough confidence. To evaluate our approach, we conduct a case study in the medical domain.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google