Entropic Open-set Active Learning

要約

アクティブ ラーニング (AL) は、ラベルのないデータのプールからアノテーション用に最も有益なサンプルを選択することにより、ディープ モデルのパフォーマンスを向上させることを目的としています。
クローズドセット設定では優れたパフォーマンスを発揮しますが、ほとんどの AL メソッドは、ラベルのないデータに未知のカテゴリが含まれる現実のシナリオでは失敗します。
最近、いくつかの研究がオープンセット設定の AL 問題に取り組むことを試みています。
ただし、これらの方法は既知のサンプルを選択することに重点を置いており、AL ラウンド中に取得された未知のサンプルを効率的に利用するものではありません。
この研究では、既知と未知の分布の両方を効果的に活用して、AL ラウンド中に有益なサンプルを選択するエントロピック オープンセット AL (EOAL) フレームワークを提案します。
具体的には、私たちのアプローチでは 2 つの異なるエントロピー スコアが使用されます。
既知のクラスの分布に関するサンプルの不確実性を測定します。
もう 1 つは、未知のクラスの分布に関するサンプルの不確実性を測定します。
これら 2 つのエントロピー スコアを利用することで、ラベルのないデータから既知のサンプルと未知のサンプルを効果的に分離し、より適切なサンプリングを実現します。
広範な実験を通じて、提案された方法が CIFAR-10、CIFAR-100、TinyImageNet データセットに対して既存の最先端の方法よりも優れていることを示します。
コードは \url{https://github.com/bardisafa/EOAL} で入手できます。

要約(オリジナル)

Active Learning (AL) aims to enhance the performance of deep models by selecting the most informative samples for annotation from a pool of unlabeled data. Despite impressive performance in closed-set settings, most AL methods fail in real-world scenarios where the unlabeled data contains unknown categories. Recently, a few studies have attempted to tackle the AL problem for the open-set setting. However, these methods focus more on selecting known samples and do not efficiently utilize unknown samples obtained during AL rounds. In this work, we propose an Entropic Open-set AL (EOAL) framework which leverages both known and unknown distributions effectively to select informative samples during AL rounds. Specifically, our approach employs two different entropy scores. One measures the uncertainty of a sample with respect to the known-class distributions. The other measures the uncertainty of the sample with respect to the unknown-class distributions. By utilizing these two entropy scores we effectively separate the known and unknown samples from the unlabeled data resulting in better sampling. Through extensive experiments, we show that the proposed method outperforms existing state-of-the-art methods on CIFAR-10, CIFAR-100, and TinyImageNet datasets. Code is available at \url{https://github.com/bardisafa/EOAL}.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google