Learning from Exemplary Explanations

要約

eXplanation Based Learning (XBL) は対話型機械学習 (IML) の一種で、モデルの説明に関して収集されたユーザーのフィードバックを介してモデルを改良するアプローチを提供します。
XBL のインタラクティブ性はモデルの透明性を促進しますが、XBL は大量のユーザー インタラクションを必要とし、フィードバックが IML で一般的な単純なカテゴリのラベル付けではなく詳細な注釈の形式であるため、コストが高くなる可能性があります。
この出費は、医療画像分類などの一か八かの分野ではさらに悪化します。
XBL の労力と費用を削減するために、XBL を実装するための例示的な説明として 2 つの入力インスタンスとそれに対応する Gradient Weighted Class Activation Mapping (GradCAM) モデルの説明を使用する新しいアプローチを導入します。
医療画像分類タスクを使用して、最小限の人的入力を使用して、相互作用なしでトレーニングされたモデルと比較した場合、私たちのアプローチが改善された説明 (+0.02、+3%) を生成し、分類パフォーマンスの低下 (-0.04、-4%) を達成することを実証します。
。

要約(オリジナル)

eXplanation Based Learning (XBL) is a form of Interactive Machine Learning (IML) that provides a model refining approach via user feedback collected on model explanations. Although the interactivity of XBL promotes model transparency, XBL requires a huge amount of user interaction and can become expensive as feedback is in the form of detailed annotation rather than simple category labelling which is more common in IML. This expense is exacerbated in high stakes domains such as medical image classification. To reduce the effort and expense of XBL we introduce a new approach that uses two input instances and their corresponding Gradient Weighted Class Activation Mapping (GradCAM) model explanations as exemplary explanations to implement XBL. Using a medical image classification task, we demonstrate that, using minimal human input, our approach produces improved explanations (+0.02, +3%) and achieves reduced classification performance (-0.04, -4%) when compared against a model trained without interactions.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google