Efficient Human-in-the-loop System for Guiding DNNs Attention

要約

アテンションガイダンスは、モデルが誤った特徴に依存して判断を下す、深層学習におけるデータセットバイアスに対処するためのアプローチである。画像分類タスクに着目し、ユーザが指定した領域に分類器の注意をインタラクティブに誘導する効率的なヒューマンインザループシステムを提案し、共起バイアスの影響を軽減し、DNNの移植性と解釈可能性を向上させます。注意誘導のためのこれまでのアプローチは、ピクセルレベルのアノテーションを準備する必要があり、対話的なシステムとして設計されていない。我々は、ユーザが簡単なクリック操作で画像にアノテーションを付与できる新しい対話型手法を提示し、アノテーションの数を大幅に削減する新しい能動学習戦略を研究している。提案システムを複数のデータセットで評価するため、数値評価とユーザ調査の両方を行った。既存の非能動学習アプローチでは、通常、DNNの微調整や学習のために膨大な量のポリゴンベースのセグメンテーションマスクに依存するのに対し、本システムでは多くの労力と費用を節約し、データセットに偏りがある場合でもよりうまく機能する微調整されたネットワークを得ることができる。実験の結果、提案システムは効率的で合理的、かつ信頼性の高いものであることが示された。

要約(オリジナル)

Attention guidance is an approach to addressing dataset bias in deep learning, where the model relies on incorrect features to make decisions. Focusing on image classification tasks, we propose an efficient human-in-the-loop system to interactively direct the attention of classifiers to the regions specified by users, thereby reducing the influence of co-occurrence bias and improving the transferability and interpretability of a DNN. Previous approaches for attention guidance require the preparation of pixel-level annotations and are not designed as interactive systems. We present a new interactive method to allow users to annotate images with simple clicks, and study a novel active learning strategy to significantly reduce the number of annotations. We conducted both a numerical evaluation and a user study to evaluate the proposed system on multiple datasets. Compared to the existing non-active-learning approach which usually relies on huge amounts of polygon-based segmentation masks to fine-tune or train the DNNs, our system can save lots of labor and money and obtain a fine-tuned network that works better even when the dataset is biased. The experiment results indicate that the proposed system is efficient, reasonable, and reliable.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL